过两天会上线一个关于AI模型性别歧视查询的网站。先预热一下,来介绍一下另一个我们刚刚放上网的关于AI性别歧视的研究
今天讲的是:挽救失足AI,不能光靠打骂。
AI会重男轻女、爱白欺黑。这是好多文献已经发现的,好多研究也已经开始琢磨怎么抽打AI,让它们不要跟着人类学坏
但是,现在的很多方法都有个问题:你纠正AI性别歧视,就会让它变笨:它要么就分不清爸爸妈妈的男女、要么就会语法错误——比如第三人称后的动词就不会加s了。
问题出在了现在的纠正AI歧视的方法——现在的方法通俗的讲,就是纯打骂:只要你搞性别歧视,我就抽你。用皮鞭抽你你不改,我就改钢鞭;效果还不好的话,就上带刺的钢鞭。
所以,一个问题是:挽救失足AI,那AI就一定变蠢么?
我们的这个研究说:如果我们用计量经济学的观点看,不是!
我们证明了:打骂AI要不得~你靠打骂AI纠正歧视,AI就会变笨
就像你教育孩子不能光靠打骂、得理解孩子怎么想的、然后跟它们讲道理一样;对AI,你也得如此。
要耐心理解AI它为啥会歧视,然后对症讲道理,就能够纠正AI的性别歧视,AI还不会变笨。