行业新闻与博客

Instagram 已经发布了一个人工智能警告系统，可以挑战用户的言论自由。

从今天开始，该社交网络应用程序将在人们对照片或视频的字幕“被认为令人反感”时通知他们，并为他们提供“在发布前暂停和重新考虑其言辞的机会”。

试图发布被认为令人反感的评论的用户将收到一条提示，内容为：“此标题看起来与所报告的其他标题相似”。然后，将为用户提供三个选项：编辑标题，以了解有关其评论为何提示此响应的更多信息，或以任何方式共享。 

新的警告功能正在作为减少在线欺凌的策略提出。但是，警告仅是直接阻碍用户言论自由的最小步骤。 

目前仅在“某些国家 / 地区”推出警告功能；但是，Instagram 计划在未来几个月内控制允许用户在全球发布的内容。 

 Instagram 在今天发布的一份  声明中写道：“作为我们领导打击网上欺凌行为的长期承诺的一部分，我们已经开发并测试了可以识别 Instagram 上不同形式的欺凌行为的 AI。今年早些时候，我们推出了一款该功能可在用户发表评论之前将其评论视为令人反感的状态。 

“结果令人鼓舞，我们发现这些类型的微调可以鼓励人们在有机会的情况下重新考虑自己的话。”

Instagram 尚未说明是谁来决定内容是否令人反感或以何种标准衡量此类评论。没有提及使用户的声音消声和将不满的人带入地下的潜在危险。  

Instagram 写道：“今天，当有人为提要帖子撰写标题时，我们的 AI 将该标题检测为具有潜在冒犯性，他们会收到提示，通知他们其标题与报告的欺凌行为相似。他们将有机会进行编辑他们的标题，然后再发布。 

“除了限制欺凌行为的范围外，该警告还有助于教育人们有关我们在 Instagram 上不允许的内容以及何时有可能违反我们的规则的风险。”