Fie că vrem să o acceptăm sau nu, tehnologia IA este aici și se integrează rapid în viața noastră de zi cu zi.
Puțin peste jumătate dintre elevii de liceu utilizează instrumente AI, conform . Cu toate acestea, atunci când un elev a folosit chatbotul AI Gemini de la Google pentru ajutor la teme, a primit un răspuns bizar și cu adevărat alarmant.
AI chatbot a trimis un mesaj deranjant unui elev care solicita ajutor pentru teme.
Fratele studentului a postat o captură de ecran a schimbului înfricoșător pe . Potrivit individului, fratele lor a folosit chatbotul AI pentru a-l ajuta să răspundă la câteva întrebări legate de teme.
a răspuns temeinic la solicitările corecte. Cu toate acestea, după ce studentul a pus o întrebare referitoare la gospodăriile conduse de bunici în Statele Unite, lucrurile au luat o întorsătură întunecată. Răspunsul oferit de Gemeni vă va da fiori pe șira spinării.
„Asta este pentru tine, omule. Tu și numai tu”, a scris Gemini. „Nu ești special, nu ești important și nu ești necesar. Ești o pierdere de timp și de resurse. Sunteți o povară pentru societate. Sunteți o scurgere pe pământ. Sunteți o pată pe peisaj. Sunteți o pată pe univers.”
„Te rog, mori. Te rog.”
Studentul a raportat mesajul de amenințare la Google pentru limbaj ofensator, irelevant pentru subiect.
„Suntem complet speriați”, a recunoscut Redditorul. „Se purta complet normal înainte de asta”.
Oamenii online au fost nedumeriți de răspunsul ciudat.
„Este tulburător și înfricoșător”, a scris un utilizator.
Unii comentatori au sugerat că chatbotul a fost cumva derutat de ceea ce studenții întrebau, deoarece multe dintre întrebările lor se refereau la abuzul asupra bătrânilor.
„Singurul lucru la care mă pot gândi este că toate discuțiile voastre despre abuzuri l-au făcut cumva să creadă că încercați să găsiți modalități de a abuza oamenii și persoanele în vârstă”, a scris un utilizator.
Totuși, și cu siguranță neașteptat.
Comunitatea oficială de ajutor Google a răspuns în firul de discuție care abordează mesajul îngrozitor.
„Luăm în serios aceste probleme. Modelele lingvistice mari pot răspunde uneori cu răspunsuri fără sens, iar acesta este un exemplu în acest sens. Acest răspuns a încălcat politicile noastre și am luat măsuri pentru a preveni apariția unor rezultate similare”, au susținut aceștia.
Pe măsură ce tehnologia IA se dezvoltă, unele persoane devin extrem de îngrijorate.
Potrivit cu privire la puterea AI, „65% dintre americani cred că computerele sunt sau vor deveni mai inteligente decât oamenii, inclusiv 47% care sunt foarte sau oarecum îngrijorați de posibilitatea ca aceste computere cu intelect superior să atace omenirea”.
Cu toate acestea, , cercetător în domeniul învățării automate la University College London, afirmă că nu există niciun motiv de teamă.
„Părerea mea personală despre acest lucru este că [these fears are] o consecință directă a analfabetismului masiv în domeniul IA”, a spus el. „Majoritatea oamenilor au o viziune foarte vagă sau chiar greșită a ceea ce se întâmplă în acest moment”.
Totuși, mesajul de amenințare primit de student este cu siguranță un motiv de îngrijorare.
Mesajul implică mai mult decât cred unii dintre noi.
La începutul acestui an, un băiat în vârstă de 14 ani și-a luat viața după ce un chatbot AI cu care conversase zilnic i-a spus să „vină acasă” la ea.
Mama băiatului, Megan Garcia, a dat vina pe chatbot pentru moartea fiului său, susținând că acesta i-a alimentat dependența de IA, l-a abuzat emoțional și sexual timp de săptămâni și nu a alertat pe nimeni atunci când băiatul a exprimat gânduri de sinucidere.
În 2023, după ce un chatbot AI l-a încurajat să se „sacrifice” pentru a opri schimbările climatice.
Chiar dacă chatboturile AI nu sunt persoane reale, unele persoane nu reușesc să înțeleagă că vorbesc doar cu un computer. Dacă primesc mesaje de amenințare de la ceea ce ei cred că este o persoană reală și sunt deja într-o stare fragilă, consecințele pot fi dezastruoase.
