400-8083-012
新闻动态

挽救失足AI,不能光靠打骂

 过两天会上线一个关于AI模型性别歧视查询的网站。先预热一下,来介绍一下另一个我们刚刚放上网的关于AI性别歧视的研究

今天讲的是:挽救失足AI,不能光靠打骂。

AI会重男轻女、爱白欺黑。这是好多文献已经发现的,好多研究也已经开始琢磨怎么抽打AI,让它们不要跟着人类学坏

但是,现在的很多方法都有个问题:你纠正AI性别歧视,就会让它变笨:它要么就分不清爸爸妈妈的男女、要么就会语法错误——比如第三人称后的动词就不会加s了。

问题出在了现在的纠正AI歧视的方法——现在的方法通俗的讲,就是纯打骂:只要你搞性别歧视,我就抽你。用皮鞭抽你你不改,我就改钢鞭;效果还不好的话,就上带刺的钢鞭。

所以,一个问题是:挽救失足AI,那AI就一定变蠢么?


我们的这个研究说:如果我们用计量经济学的观点看,不是!

我们证明了:打骂AI要不得~你靠打骂AI纠正歧视,AI就会变笨

就像你教育孩子不能光靠打骂、得理解孩子怎么想的、然后跟它们讲道理一样;对AI,你也得如此。


要耐心理解AI它为啥会歧视,然后对症讲道理,就能够纠正AI的性别歧视,AI还不会变笨。