AIとヘイト

先日、東大の特任准教授の方が、Twitterでヘイト発言をした、という記事が巷をにぎわせました。特任准教授の所属長の教授が事態説明をしたり、講座寄付企業が寄付を取りやめたり、、、と随分と大事になりました。

当該特任教授を直接存じ上げてはいませんが、なさっている仕事内容はある程度理解できている積もりです、、、その前提で。

もし。AI（BigData解析の結果）が、「人種差別する」という判断をした場合、それってどうなるのでしょうか？企業の採用戦略をAIに依存してしまった場合、その様になってしまう可能性があります。もっと言えば、「日本人はダメ」という判断がなされる場合もあると思うのです。

総論として、AIが人種差別、ヘイト戦略を示すことはないと思います。しかし、採用人数によっては、「何十年立ってもA国の人は採用されない」という事態は起き得ます。その結果だけ見て、人が勝手に「あの企業にはA国人は採用されない」と言うことはヘイト発言でしょうか？

その事態を避けるために、AI「忖度」させて、時々A国の人を採用するとしたら、、、企業の「利益の最適化」はなされず、つまり、AIを用いても利益最大化がなされない、という結果になり、AIを用いる理由が無くなります。

AIとヘイト。意外と根が深い問題だと思います。