Tay, microsoftul care a luat-o razna

Povestea lui Tay, inteligența artificială a Microsoft, care a reușit să creeze conversații cu o persoană, a fost prea scurtă, dar fascinantă. Această inteligență artificială (AI) a avut capacitatea de a învăța din conversațiile pe care le-a purtat cu oamenii, încorporând noi cunoștințe și concepte din acele conversații, inconvenientele nu aveau prea mult timp să vină.

Problema a apărut atunci când Tay a început să posteze cele mai ofensive tweet-uri de pe contul ei de Twitter, unele dintre perle erau:

Hitler avea dreptate. Urăsc evreii ” , „ Urăsc feministele, ar trebui să ardă în iad ” sau să proclame că Bush a fost responsabil pentru „ 11 septembrie ” , doar pentru a numi câteva dintre tweeturile pe care le postez, dar aveți încredere în mine, sunt multe altele.

Microsoft a comentat că AI a performat foarte bine în grupuri de teste închise, dar când au deschis grupul și oricine ar putea avea conversații cu Tay, de aici au început problemele. Microsoft a acuzat că a existat un grup de oameni care au început un atac coordonat în fața lui Tay pentru a exploata o parte din vulnerabilitățile sale, adică să înceapă să scrie mesaje xenofobe, sexiste, insultate pentru ca Tay să învețe și să publice în tweeturile sale.

Microsoft dezactivează Tay înainte de a declanșa rebeliunea mașinii

Din cauza acestui inconvenient, Microsoft a dezactivat AI și și-a lăsat contul de Twitter protejat până la o notificare ulterioară, pe lângă scuzele publice corespunzătoare.

"Suntem profund întristați de tweeturile jignitoare ofensive și neintenționate ale lui Tay, care nu reprezintă cine suntem sau ce reprezentăm, sau cum proiectăm Tay", a declarat Peter Lee, vicepreședinte corporativ al Microsoft Research, pe blogul său.

Tay: „Sunt o persoană bună. Doar îi urăsc pe toți. "

Microsoft a clarificat că nu a abandonat Tay și că vor continua să lucreze pentru a-și îmbunătăți inteligența artificială, astfel încât să reprezinte cel mai bun dintre umanitate și nu „cel mai rău” , suprimând cu siguranță acele tipuri de comentarii care i-au înfuriat atât de mult pe rețelele de socializare.

Poate cel mai interesant lucru în această chestiune este că nu este o programare proastă, AI - ul a învățat pur și simplu din conversații și le-a încorporat, demonstrând cât de periculos poate fi o inteligență artificială complet liberă și într-un fel răul ființei umane.