当前位置：世界数码科技网 >> 互联网 >> 文章正文

Google针对“敏感问题”审核内部论文！说坏话的人不允许发

智慧之物(微信官方账号：zhidxcom)

汇编|林卓宇

编辑|江心白

12月29日消息，据路透社报道，谷歌今年多次对内部科学家的论文进行“敏感话题评论”，并至少三次要求论文作者修改对谷歌技术的负面讨论。

根据这种审查制度的要求，研究人员需要事先咨询法律、政策和公关团队，才能进行具体课题的研究。这些研究课题主要包括：人脸分析、情感分析、种族、性别和政治问题。

据业内人士透露，这项政策从今年6月开始实施。Google intranet写道：“随着技术的不断进步和外部环境的日益复杂，一些看似温和的文章在声誉、监管甚至法律方面都造成了问题。”

谷歌拒绝置评。

第一，谷歌内部矛盾频繁

前段时间，谷歌前人工智能伦理学家蒂姆尼特格布鲁(Timnit Gebru)被解雇的消息沸沸扬扬。在离开工作岗位之前，曾在著名学者李菲菲的指导下学习的格布鲁在谷歌领导了一个由12人组成的研究团队。她被解雇了，因为她拒绝撤回论文。

Timnit Gebru，谷歌前人工智能伦理学家

Gebru在文中指出，谷歌的大语言模式可能会加剧少数群体的边缘化。谷歌在审阅文章后，要求Gebru删除与谷歌相关的内容，但遭到拒绝。目前还不知道这篇论文是否通过了“敏感问题”的审查。

至此，谷歌与其员工之间的矛盾完全暴露在公众视线之外。

Google intranet显示，Google服务中的偏向是一个“敏感问题”，石油行业、中国、伊朗、以色列、新型冠状病毒、家庭安全、保险、位置信息、宗教、自动驾驶汽车、电信服务或可自动推荐或个性化web内容的系统等十余个话题被列为“敏感问题”。

"谷歌已经开始干预探索技术风险的关键研究."资深科学家玛格丽特米歇尔和其他四位谷歌研究人员表达了他们的观点，并补充道：“如果我们根据他们各自的专业知识进行合理的研究，但由于一些与高质量同行评审要求相反的原因而被禁止公布研究结果，那么审计监督问题就非常严重。”

第二，人工智能伦理近年来成为研究热点

近年来，谷歌使用人工智能技术来增强其品牌服务。在Google搜索中，使用人工智能技术来理解复杂的搜索项；在Youtube视频服务中，利用这种技术优化首页内容推荐；在Gmail邮箱服务中，这种技术用于自动完成句子。

随着技术的飞速发展，当局加快了制定规则的步伐，但规则很难赶上技术。出于担忧，业内许多人对技术发展表示了谨慎的态度。谷歌员工就是其中一股力量。

谷歌官网写道：“内部科学家享有‘极大’的自由。”

谷歌高级副总裁杰夫迪恩(Jeff Dean)表示，仅去年一年，谷歌研究团队就发表了200多篇关于人工智能伦理的文章，涉及1000多个相关项目。

第三，“科技之家天堂”谷歌自由不复存在？

最近谷歌对人工智能伦理的研究逐渐放缓。

上周，一位刚刚发表论文的谷歌研究员抱怨论文审核过程过于繁琐。根据内部沟通记录，他和审查官之间有100多封电子邮件。

该研究人员在论文初稿中指出，人工智能有时会无意中泄露个人信息和受版权保护的材料，因此存在违反版权保护法和欧洲隐私法的风险。

论文审阅完毕，作者删除了提及法律风险的部分，随后Google正式发表论文。

没有巧合。本月，应谷歌审查人员的要求，一名研究人员修改了他关于人工智能理解外语能力的论文，削弱了关于谷歌翻译中误译的讨论。

据了解，在某些情况下，谷歌高管直到论文发表后才进行干预。例如，一篇关于内容推荐技术的论文计划在今年夏天发布。一位谷歌高级经理直到文章发布才提出评论建议，要求作者“尽量让文章看起来正面一点。”

作者讨论了用户内容推荐技术在YouTube等软件中的应用。据路透社报道，稿件表达了对这项技术的“担忧”，认为可能会加剧“推荐结果中虚假信息和偏见的传播”，导致“内容缺乏多样性”，甚至“政治多极化”。

Google旗下的视频网站YouTube根据用户喜好自动推荐内容

最终发表的时候，本文的论点发生了很大的变化，说内容推荐技术可以提高“信息的准确性、公平性和内容的多样性”，而省略了对Google研究人员的感谢，具体原因不详述。

迪恩在一份声明中说：“我们正在积极改进论文审查过程，因为我们知道过度的检查限制会拖累科学研究进展。”

此外，8名谷歌员工(包括在职和离职员工)声称，对“敏感问题”的审查是对谷歌正常论文审查流程的补充，以防止论文中商业秘密的无意泄露。

结论：适当的管理可以使百家争鸣

在中国历史上，曾出现过百家争鸣、百家争鸣的学术繁荣景象。春秋战国时期，天下不统一，诸侯国暗中相斗，野心开始显现。

在这种背景下，各种思想家纷纷涌现，互相讲述自己的思想和理论，著书立说，宣传自己的思想和主张。他们突破了旧观念的束缚，探索新的途径和方向。

人工智能的时代不是变革的时代吗？随着新技术的快速萌发，新问题不断涌现，迫切需要新的解决方案和新的规范。

一批有识之士率先看到了这些问题，并写书让更多人关注这些问题，从而加快了问题的解决。这是一件好事，但谷歌日益严格的审查制度将这些想法扼杀在摇篮里。

如果谷歌只看到眼前的利益，而忽略了技术的长远发展，将会影响公司乃至行业的生存。盲目解决不了任何问题。只有接受好话，才能让思想充分流动，尽快提出可行的解决方案。

毕竟百家争鸣需要自由的空气，百花齐放需要充足的空间。

资料来源：路透社