在最近的一系列 Threads 帖子中，Instagram 的负责人亚当・莫塞里（Adam Mosseri）强调了社交媒体用户在面对日益增长的 AI 生成内容时应提高警惕。
他指出，用户在网上看到的图像和信息可能并不真实，因为 AI 技术已经能够生成与现实极为相似的内容。为了帮助用户更好地判断信息的真实性，莫塞里提到，用户应该考虑内容的来源，而社交平台也有责任对此提供支持。
莫塞里表示，社交媒体平台的角色是尽可能为生成的 AI 内容贴上标签，帮助用户识别。然而，他也承认，有些内容可能会被遗漏，无法及时标注。为此，他强调，平台还需提供有关分享内容的用户背景信息，以便用户能够更好地决定对这些内容的信任程度。他的观点反映了对社交媒体信息可信度的深刻担忧。
在现阶段，Meta（Instagram 的母公司）尚未提供足够的上下文信息来帮助用户判断内容的真实性。尽管如此，该公司最近暗示，可能会对其内容规则进行重大调整。这一改变有望提高用户对信息的信任度，并帮助他们更好地应对 AI 技术带来的挑战。
莫塞里提到，用户在信任 AI 驱动的搜索引擎之前，应该先确认聊天机器人所提供的信息是否可靠。这一点与检查发布声明或图像的来源类似，只有来自信誉良好的账户的信息才能更值得信赖。
莫塞里所描述的内容监管方式更接近于用户主导的审核系统，例如 Twitter 上的社区笔记和 YouTube 的内容过滤器。虽然目前尚不清楚 Meta 是否会引入类似的功能，但考虑到该公司过去有借鉴其他平台的经验，未来的内容管理政策值得关注。
划重点:
🌐 社交媒体用户应对 AI 生成内容保持警惕，注意内容来源。
🛡️ Instagram 将努力为 AI 生成的内容贴上标签，提供用户背景信息。
🔍 Meta 计划对内容规则进行重大调整，提升信息的透明度与可信度。
