第2254篇：媒体内容AI——新闻稿智能生成和内容审核系统

适读人群：媒体技术工程师、内容平台开发者、Java后端工程师 | 阅读时长：约15分钟 | 核心价值：深度讲解媒体AI的工程实践，从结构化数据自动成稿到多层次内容审核的完整技术方案

在一家内容平台工作的朋友跟我说，他们平台每天要处理几十万条用户内容，内容审核团队就算24小时轮班也来不及看。但如果完全靠AI，误判率又很高——特别是在新闻敏感时期，错误的内容通过或者正常内容被误拦截，都会带来很大的麻烦。

媒体AI有两个核心场景：一是生产端（帮助媒体人更快生产内容），二是分发端（确保内容质量和安全）。这两个场景的技术挑战完全不同，但都需要深思熟虑的工程设计。

---

自动新闻生成：结构化数据成稿

对于金融数据报道、体育比赛报道、气象预警等高度结构化的新闻，AI可以做到接近全自动的内容生成：

@Service
public class NewsAutoGenerationService {

    @Autowired
    private LLMClient llmClient;
    
    @Autowired
    private DataSourceService dataSourceService;

    /**
     * 基于结构化数据生成新闻稿
     * 适用：财报新闻、体育赛事、经济数据发布等
     */
    public GeneratedNews generateFromData(String newsType, 
                                           Map<String, Object> structuredData) {
        NewsTemplate template = getTemplate(newsType);
        
        // 数据格式化
        String dataDescription = formatDataForPrompt(structuredData, newsType);
        
        String prompt = String.format("""
            请基于以下数据，撰写一篇%s新闻稿：
            
            %s
            
            写作要求：
            1. 新闻体写作，倒金字塔结构（最重要信息在前）
            2. 标题：吸引眼球但不夸大，15字以内
            3. 导语：概括最核心信息，50字以内
            4. 正文：逐层展开，300-500字
            5. 数据准确，与提供的数据一致，不编造
            6. 如有同比/环比变化，计算并表述
            
            输出格式：
            标题：[标题]
            
            [正文内容]
            """,
            newsType,
            dataDescription
        );
        
        LLMResponse response = llmClient.complete(
            "你是资深财经记者，擅长将数据转化为清晰、专业的新闻报道。",
            prompt,
            LLMConfig.builder().temperature(0.4).build()
        );
        
        GeneratedNews news = parseGeneratedNews(response.getContent());
        
        // 数据一致性验证：确保生成的数字与原始数据一致
        validateDataAccuracy(news, structuredData);
        
        return news;
    }

    /**
     * 财报新闻自动生成
     */
    public GeneratedNews generateEarningsNews(String ticker, FinancialReport report) {
        Map<String, Object> data = new LinkedHashMap<>();
        data.put("公司", report.getCompanyName());
        data.put("报告期", report.getPeriod());
        data.put("营业收入", formatAmount(report.getRevenue()) + "元");
        data.put("收入同比", formatPercentage(report.getRevenueYoY()));
        data.put("净利润", formatAmount(report.getNetProfit()) + "元");
        data.put("净利润同比", formatPercentage(report.getNetProfitYoY()));
        data.put("每股收益", report.getEPS() + "元");
        data.put("分红方案", report.getDividend());
        
        // 添加亮点/负面因素
        data.put("管理层说明", report.getManagementDiscussion());
        
        return generateFromData("财报", data);
    }

    private void validateDataAccuracy(GeneratedNews news, Map<String, Object> sourceData) {
        // 从新闻正文中提取数字
        List<String> numbersInNews = extractNumbers(news.getContent());
        
        // 验证重要数字是否出现在原始数据中
        for (String number : numbersInNews) {
            if (!isNumberInSourceData(number, sourceData)) {
                news.addAccuracyWarning("发现可能不准确的数字: " + number);
            }
        }
    }
}

---

内容审核系统：多层次过滤架构

内容审核不能只靠一个模型，需要多层次防御：

@Service
public class ContentModerationService {

    @Autowired
    private RuleBasedFilter ruleFilter;
    
    @Autowired
    private MLModerationModel mlModel;
    
    @Autowired
    private LLMClient llmClient;
    
    @Autowired
    private HumanReviewQueue humanReviewQueue;

    /**
     * 多层次内容审核
     */
    public ModerationResult moderate(ContentItem content) {
        long start = System.currentTimeMillis();
        
        // 第1层：规则过滤（最快，处理明显违规）
        RuleFilterResult ruleResult = ruleFilter.filter(content);
        if (ruleResult.isBlocked()) {
            return ModerationResult.blocked(ruleResult.getReason(), "RULE");
        }
        
        // 第2层：ML模型打分（快速，覆盖常见违规类型）
        MLScoringResult mlResult = mlModel.score(content);
        if (mlResult.getScore() > 0.9) {
            return ModerationResult.blocked(mlResult.getViolationType().getDescription(), "ML");
        }
        
        // 第3层：对中等置信度内容，用LLM深度分析
        if (mlResult.getScore() > 0.4) {
            LLMModerationResult llmResult = deepModerate(content);
            if (llmResult.isViolation()) {
                return ModerationResult.blocked(llmResult.getReason(), "LLM");
            }
        }
        
        // 第4层：针对特殊类型内容（政治敏感、法律争议），人工复核
        if (requiresHumanReview(content, mlResult)) {
            humanReviewQueue.enqueue(content);
            return ModerationResult.pendingHumanReview();
        }
        
        long elapsed = System.currentTimeMillis() - start;
        return ModerationResult.passed(elapsed);
    }

    private LLMModerationResult deepModerate(ContentItem content) {
        String prompt = String.format("""
            请审核以下内容是否存在违规，以JSON格式输出：
            
            内容类型：%s
            内容：%s
            
            审核维度：
            1. 是否含有违法违规内容（谣言、诈骗、涉黄涉暴）
            2. 是否含有虚假信息（错误事实、伪造数据）
            3. 是否侵犯他人权益（侵权、骚扰、歧视）
            4. 是否违反平台规范（垃圾广告、刷量行为）
            
            输出：
            {
              "is_violation": true/false,
              "violation_type": "类型（如有）",
              "confidence": 0-1,
              "reason": "判断依据（简短）",
              "should_human_review": true/false
            }
            
            注意：仅针对明确违规内容，避免过度审核合法表达。
            """,
            content.getType(),
            content.getText().length() > 1000 ? 
                content.getText().substring(0, 1000) : content.getText()
        );
        
        LLMResponse response = llmClient.complete(
            "你是内容审核专员，严格按照中国法律法规和平台规范进行审核。",
            prompt,
            LLMConfig.builder().temperature(0.0).responseFormat(ResponseFormat.JSON).build()
        );
        
        return parseLLMModerationResult(response.getContent());
    }

    private boolean requiresHumanReview(ContentItem content, MLScoringResult mlResult) {
        // 涉及政治、宗教、民族等敏感话题，自动转人工
        if (mlResult.hasSensitiveTopic()) return true;
        
        // 高影响力账号（粉丝数多、认证媒体）的内容
        if (content.getAuthorInfluence() == InfluenceLevel.HIGH) return true;
        
        // 热点话题相关内容（当前舆情敏感期）
        if (isRelatedToHotTopic(content)) return true;
        
        return false;
    }
}

---

谣言检测：基于知识图谱的事实核查

@Service
public class FactCheckingService {

    @Autowired
    private KnowledgeGraphClient kgClient;
    
    @Autowired
    private NewsSearchService newsSearch;
    
    @Autowired
    private LLMClient llmClient;

    /**
     * 事实核查：对新闻中的关键声明进行核实
     */
    public FactCheckResult checkFacts(String newsText) {
        // 1. 提取关键声明（数据、事件、引言等）
        List<FactClaim> claims = extractClaims(newsText);
        
        List<ClaimVerificationResult> verifications = new ArrayList<>();
        
        for (FactClaim claim : claims) {
            ClaimVerificationResult result = verifyClaim(claim);
            verifications.add(result);
        }
        
        // 2. 综合评估
        double credibilityScore = calculateCredibility(verifications);
        
        return FactCheckResult.builder()
            .claimsVerified(verifications)
            .credibilityScore(credibilityScore)
            .overallVerdict(determineVerdict(credibilityScore))
            .build();
    }

    private ClaimVerificationResult verifyClaim(FactClaim claim) {
        // 搜索权威来源验证
        List<NewsArticle> relatedNews = newsSearch.search(claim.getText(), 
            SearchFilter.authoritative()); // 只搜索权威媒体来源
        
        if (relatedNews.isEmpty()) {
            return ClaimVerificationResult.unverifiable(claim);
        }
        
        // 用LLM对比声明和权威来源
        String prompt = String.format("""
            判断以下声明是否与参考来源一致：
            
            待核查声明：%s
            
            参考来源（权威媒体报道）：
            %s
            
            输出JSON：
            {
              "verdict": "CONFIRMED/CONTRADICTED/UNCERTAIN",
              "confidence": 0-1,
              "explanation": "判断依据（50字内）"
            }
            """,
            claim.getText(),
            relatedNews.stream().map(NewsArticle::getSummary).limit(3)
                .collect(Collectors.joining("\n"))
        );
        
        LLMResponse response = llmClient.complete(
            "你是专业的事实核查员，只基于提供的来源材料做出判断。",
            prompt,
            LLMConfig.builder().temperature(0.0).build()
        );
        
        return parseVerificationResult(response.getContent(), claim);
    }
}

---

内容创作辅助：AI配合人工

对于深度内容创作，AI是辅助而非替代：

@Service
public class ContentCreationAssistant {

    @Autowired
    private LLMClient llmClient;

    /**
     * 提供内容大纲建议
     */
    public ContentOutline suggestOutline(String topic, String contentType, 
                                          String targetAudience) {
        String prompt = String.format("""
            为以下内容创作提供大纲建议：
            
            主题：%s
            内容类型：%s
            目标读者：%s
            
            请提供：
            1. 3个不同角度的文章标题选项
            2. 推荐的内容结构（章节标题）
            3. 关键数据/案例搜集方向
            4. 差异化写作建议
            
            注意：提供方向性建议，不要直接写正文。
            """,
            topic, contentType, targetAudience
        );
        
        String outline = llmClient.complete(
            "你是有经验的内容策划，擅长规划各类媒体内容。",
            prompt,
            LLMConfig.builder().temperature(0.6).build()
        ).getContent();
        
        return ContentOutline.parse(outline);
    }
}

---

从媒体AI的实践看内容质量

做媒体AI有一个认知很重要：AI能帮助生产更多内容，但不能自动提升内容质量。

目前AI生成的新闻稿，在结构化数据转文字这个场景（财报、赛事报道）已经做得很好，节省了大量机械性写作时间。但对于需要深度采访、独家信源、洞察性分析的内容，AI还差得很远。

内容审核AI的价值在于提高效率，但不能完全替代人工审核——特别是在敏感时期，AI的误判风险会被放大很多倍。

最健康的媒体AI应用模式是：用AI处理机械性和规模化的任务，让记者和编辑专注于真正需要人类智慧的工作。