Az Albert Hitchcock Psycho című filmjének főszereplője, Norman Bates után Normannak keresztelt algoritmussal a Massachusetts Institute of Technology (MIT) kutatói a mesterséges intelligencia veszélyeire igyekeznek felhívni a figyelmet. Norman ugyanis példa arra, hogy mi történik, ha egyoldalú információkkal látják el a mesterséges intelligenciát.

A kísérlet során a szakértők kizárólag olyan tartalmakat tápláltak a mesterséges intelligenciába, amelyek haldokló emberekről szólnak. A tartalmak a Reddit közösségi portálról származtak. Ezután Normannak a pszichodiagnosztika során használt Rorschach-teszthez hasonlatos tintapacaképeket mutattak. A pszichopata Norman válaszait összehasonlították egy "normális" mesterséges intelligenciáéval.

Az eredmények félelmet keltőek voltak. Miközben az "egészséges" algoritmus a képen "szorosan egymás mellett álló embereket" látott, Norman egy ablakon kiugró férfit. Egy másik tintapacában a mesterséges intelligencia egy személyt látott esernyővel, Norman egy "férfit, akit kiabáló felesége előtt lőnek le".

A pszichopata algoritmus embereket vélt látni, akiket áramütés öl meg és akiket elütnek, miközben a másik mesterséges intelligencia madarakat, repülőgépet és esküvői tortát figyelt meg a képeken.

A gépi tanulás során az adatok, amelyeket a gépekbe táplálnak, központi jelentőségűek, "jelentősen megváltoztathatják a viselkedését" – foglalták össze eredményeiket a tudósok, akik azt mondták, céljuk, hogy felhívják a figyelmet a mesterséges intelligencia veszélyeire.

Ha egy algoritmust igazságtalannak vagy elfogultnak tartanak, a tettes sokszor nem a mesterséges intelligencia maga, hanem az adatok, amelyeket betápláltak – magyarázták az MIT kutatói.

A tudósok a norman-ai.mit.edu internetes oldalon bemutatják Norman válaszait, és arra kérik az érdeklődőket, ők is válaszoljanak a kérdésekre, így segítve Norman megjavítását.