被前 Google 工程师认为有人性的 LaMDA 自然语言模型 在美国以 AI Test Kitchen 项目开放申请测试

为了避免使用者恶意干扰训练结果,Google表示已经针对AI Test Kitchen项目进行多层保护,例如自动侦测、过滤各类违反规定的仇恨、色情、暴力或更多非法内容,同时也会避免使用者隐私外泄,同时也能减少LaMDA自然语言模型被他人玩坏

为了避免使用者恶意干扰训练结果,Google表示已经针对AI Test Kitchen项目进行多层保护,例如自动侦测、过滤各类违反规定的仇恨、色情、暴力或更多非法内容,同时也会避免使用者隐私外泄,同时也能减少LaMDA自然语言模型被他人玩坏情况发生。

Google在今年Google I/O 2022期间公布的AI Test Kitchen项目,让众人可透过线上互动方式对自然语言模型持续进行训练,藉此让自然语言模型在互动反应更加自然且正确,目前已经开放众人申请试用,初期仅先提供Android平台装置使用,但未来几周也会开放iOS平台加入测试。

不过,目前仅针对美国境内小规模用户提供申请测试,并且由Google内部进行抽选决定是否获得测试资格。

AI Test Kitchen项目会藉由Google的LaMDA自然语言模型,并且透过名为Imagine It的项目,让使用者说出一个想像或实际存在地点,并且由系统尝试以文字描述,而另一个List It项目,则会由使用者提供可分享目标及主题内容,系统会尝试将内容自动进行分类。

此外,LaMDA也能在Talk About It项目中,针对特定主题与使用者进行自由对谈,但目前会设定让LaMDA围绕在以苟为主题的话题,同时也会避免在与使用者对话过程离题。

-

而为了避免使用者恶意干扰训练结果,Google表示已经针对AI Test Kitchen项目进行多层保护,例如自动侦测、过滤各类违反规定的仇恨、色情、暴力或更多非法内容,同时也会避免使用者隐私外泄,同时也能减少LaMDA自然语言模型被他人玩坏情况发生。

但是否会因此再次发生有人认定LaMDA自然语言模型具有人性的情况发生,Google表示确实仍有此类潜在隐忧,但强调会将相关风险降至最低。

原创文章,作者:墨半,如若转载,请注明出处:https://www.53moban.com/87042.html

联系我们

400-800-8888

在线咨询:点击这里给我发消息

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息