Ascensiunea inteligenței artificiale a creat atât intrigă, cât și panică, în special din cauza amenințării că această tehnologie avansată ar putea elimina locuri de muncă în anumite domenii profesionale. Cu toate acestea, una dintre principalele îngrijorări legate de inteligența artificială este modul în care anumite persoane o vor utiliza pentru a crea deepfakes ale altora, ceea ce s-a întâmplat în mod frecvent în ultima vreme, în special în cazul celebrităților și al persoanelor influente online.
Acesta a fost cazul unei creatoare de conținut și mamă pe nume , care a fost șocată când a observat un videoclip cu ea promovând un produs pentru un brand pe TikTok, dar a susținut că acesta a fost folosit fără știrea ei.
Femeia a declarat că un brand a folosit un AI deepfake cu ea pentru a-și promova produsul pe social media fără consimțământul ei.
În videoclipul lui Sam, aceasta a arătat o captură de ecran a clipului pe care îl văzuse circulând pe rețelele de socializare, în care apărea ea promovând un produs pentru un brand online. Cu toate acestea, problema a apărut după ce a subliniat că nu era ea sau chipul ei real în videoclip. În schimb, era un AI deepfake pe care marca îl făcuse și îl folosise fără aprobarea ei.
„Acesta este videoclipul meu care se află pe acest cont pe care îl urmăriți chiar acum”, a spus Sam. „Un brand a luat, a făcut un deepfake al meu folosind AI, mi-a editat fața și l-a reîncărcat pentru a-și promova produsul.”
Femeia a spus că aceste AI deepfakes sunt motivul pentru care nu postează niciodată fotografii sau videoclipuri ale copiilor ei online.
Sam a subliniat că găsirea acestui videoclip a dovedit nu numai că internetul este un loc înfricoșător, dar a explicat și că astfel de lucruri sunt motivul pentru care pe internet.
Ea a subliniat că nu știi cu adevărat ce fel de oameni așteaptă să facă ceva atât de lipsit de etică precum realizarea unui AI deepfake al asemănării unui străin.
Sam a insistat că, dacă așa ceva i s-ar putea întâmpla ei, nu și-ar putea imagina ce ar putea face un individ copiilor ei.
În timp ce marca s-a grăbit să abordeze problema și să recunoască îngrijorările lui Sam, aceasta ridică totuși multe probleme într-o perioadă în care tehnologia pare să avanseze într-un ritm atât de rapid și într-un mod care nu pare să protejeze viața privată a oamenilor.
AI deepfakes au fost o preocupare proeminentă pentru oficialii guvernamentali.
„Preocuparea numărul unu pe care o avem sunt unele dintre provocările cu care trebuie încă să ne confruntăm”, . „Există unele incertitudini, în special în ceea ce privește inteligența artificială generativă și modurile în care acestea ar putea fi utilizate.”
În iunie 2023, Rep. Ritchie Torres (D-NY) „inteligența artificială generativă pentru a dezvălui că rezultatul lor a fost generat de inteligența artificială”.
În aceeași lună, Rep. Ted Lieu (D-CA) o comisie de inteligență artificială. Legislație suplimentară a fost, de asemenea, pentru AI.
Au existat, de asemenea, multe celebrități care au vorbit împotriva utilizării AI deepfakes, , care, în septembrie 2024, că a ales să sprijine vicepreședintele Kamala Harris pentru alegerile prezidențiale din 2024, în parte pentru a respinge utilizarea unui AI generat de ea care a fost folosit pentru a sprijini Donald Trump.
În ciuda faptului că mulți politicieni și oficiali sunt dedicați să se asigure că reglementează utilizarea IA, acest lucru nu înseamnă că vor reuși să urmărească totul.
, 52% dintre americani se simt mai degrabă îngrijorați decât încântați de utilizarea sporită a inteligenței artificiale (AI) în viața de zi cu zi. În mod similar, într-un , mai mult de 3 din 4 americani s-au declarat îngrijorați că nu sunt pregătiți să detecteze singuri fotografii, înregistrări video și audio false.
