發(fā)布日期：2018-06-08
據(jù)外媒CNET報道，麻省理工學(xué)院媒體實驗室的研究人員創(chuàng)建出稱為 Norman的“精神病AI”，作為“在機器學(xué)習(xí)算法中使用有偏差的數(shù)據(jù)時人工智能出錯的案例研究”。研究人員將Norman設(shè)置為執(zhí)行圖像字幕，這是一種深度學(xué)習(xí)方法，可以生成圖像的文本描述，然后將其插入一個以其死亡圖像而聞名的subreddit版塊。
然后，他們讓Norman解釋了一系列羅夏墨跡，將他們的“精神病人AI”與“標(biāo)準(zhǔn)AI”的答案進行比較。雖然Norman最初是在4月1日揭幕，但這些答案非常令人不安。
在標(biāo)準(zhǔn)AI發(fā)現(xiàn)“在樹枝上的一群鳥”時，HAL-9000式的死亡機器人Norman發(fā)現(xiàn)“一個人被電死了”。標(biāo)準(zhǔn)AI能看到“桌子上的結(jié)婚蛋糕”，而Norman看到“一名男子因超速駕駛而死亡”。
研究人員并沒有“創(chuàng)造”Norman的“精神病態(tài)”傾向，他們只是通過只允許它看到特定的圖像標(biāo)題子集來幫助人工智能。Norman用簡單的語句描述羅夏墨跡的方式確實使它看起來像是在一個subreddit上發(fā)布內(nèi)容。
但為什么要創(chuàng)造一個“精神病AI”？該研究小組旨在強調(diào)將特定數(shù)據(jù)提供給算法的危險，以及這可能會對其行為產(chǎn)生偏見或影響。
來源：cnBeta.COM
