(资料图片)
OpenAI采取了一项突破性举措，利用其 GPT-4 模型的强大功能，开创了内容审核的新时代，保证了可扩展性、一致性和定制性。由于内容审核是数字平台面临的持续挑战，OpenAI 的创新方法旨在简化流程，但同时也承认人类参与的不可或缺的作用。
内容审核长期以来一直是一个复杂的问题，需要在确定各种在线平台上允许哪些内容时进行微妙的平衡。OpenAI的 GPT-4 已成为应对这一挑战的关键参与者，它不仅能够做出内容审核决策，还有助于政策的制定和快速迭代。这可能会将政策更新的时间周期从几个月缩短到几个小时。
OpenAI 声称 GPT-4 可以破译复杂的内容策略，并立即适应任何修改。据该公司称，其结果是内容标签更加一致和准确，为数字平台的未来提供了积极的愿景。OpenAI 的 Lilian Weng、Vik Goel 和 Andrea Vallone 表示：“人工智能可以帮助根据特定平台的规则过滤在线流量，并减轻大量人类版主的精神负担。
人工智能在缓解人类主持人心理压力方面的作用不可低估。手动审查令人痛苦的内容对心理健康的影响一直是一个令人担忧的问题，促使 Meta 等公司对版主因审查图片材料而产生的心理健康问题进行补偿。OpenAI 实施人工智能的目的是分担负担，提供人工智能辅助工具在一天内完成大约六个月的工作。
然而，OpenAI 意识到人工智能模型的局限性。尽管许多科技巨头已经将人工智能纳入其审核流程，但也出现过人工智能驱动的内容决策出错的情况。该公司承认 GPT-4 并非绝对可靠，人类监督仍然至关重要。识别“不良偏见”和潜在错误是需要持续进行人工审查的一个关键方面。OpenAI 政策团队的 Vallone 强调了让人类“参与其中”以验证和完善输出的重要性。
OpenAI 的方法是朝着人工智能与人类主持人之间更加和谐共存迈出的一步。通过将内容审核的常规方面委托给 GPT-4，人工审核员可以将他们的专业知识集中在处理需要细致入微的理解的复杂边缘情况上。人工智能和人类之间的合作预计将带来更高效、更全面的内容政策，减少其他公司面临的与内容相关的陷阱相关的风险。
关键词：