- Keli Robins tvrdi da joj je Metin AI predlagao pitanja o deci i pronalazio njihove podatke, fotografije i snimke na internetu.
- Meta je priznala da sistem nije smeo da ponudi takva pitanja i navela da je problem rešen, ali nije objasnila šta je tačno promenjeno.
Keli Robins iz Jute tvrdi da je Metin alat veštačke inteligencije počeo da joj postavlja uznemirujuća pitanja o deci, a zatim je na internetu pronašao i staru porodičnu fotografiju za koju kaže da ju je odavno izbrisala. Sve je počelo nakon što je 1. septembra na Instagramu objavila snimak na kom peva sa ćerkom, piše Dejli mej.
Dan kasnije dobila je Metino obaveštenje vezano za autorska prava, a zatim joj je AI alat na platformi predložio pitanje: "Ko je dete na suvozačevom mestu?"
Počeo je da traži podatke o njenoj deci
Robins je u videu objavljenom 2. septembra burno reagovala na takav predlog. "Kao prvo, zašto se uopšte predlaže takvo pitanje o maloletnoj osobi?", upitala je.
Kaže da ju je pitanje toliko iznenadilo da je odlučila da klikne na njega. Tada je, tvrdi, videla kako veštačka inteligencija na internetu pronalazi podatke o obe njene ćerke, uključujući i onu koja se uopšte nije pojavila u videu. "Počeo je da izvlači zasebne podatke o svakom mom detetu – njihova imena, podatke o rođenju, fotografije i snimke", ispričala je pokazujući snimke ekrana.
Prema njenim rečima, među rezultatima su bile objave, fotografije i videosnimci sa profila različitih korisnika. AI je pronašao čak i fotografije njenog deteta iz vremena kada je bilo novorođenče, objavljene na profilu njene majke. Nakon toga pojavio se novi predlog pitanja: "Gde živi Keli Robins?"
"Zezate li me? Počeo je da kopa po potpuno nepovezanim stvarima iz mog života. Povezao je moje podatke kako bi ljudima pokazao gde živim", rekla je Robins.
Zamolila porodicu i prijatelje da uklone fotografije njene dece
Robins je rekla da očekuje komentare o tome kakve rizike nosi objavljivanje fotografija i snimaka dece na internetu. Ipak, smatra da veštačka inteligencija ne bi smela da omogućava tako jednostavno prikupljanje podataka o nečijoj porodici i deci.
Nakon svega poručila je da je "završila" sa Metom. Najavila je da će sa interneta ukloniti sve fotografije na kojima njena deca mogu da se prepoznaju, a isto je zatražila od prijatelja i članova porodice. Kaže da je iz sopstvenog iskustva videla kako Metin AI može da pronađe podatke i na profilima drugih korisnika.
"Sačuvajte te dragocene uspomene, a zatim uklonite moju decu sa svojih profila. Ako ja uklonim sve sa svog profila, a vi ih i dalje imate na svom, AI će otići na vaš profil. Videla sam to, već je to uradio", upozorila je Robins na Instagramu.
Meta priznala da takva pitanja nisu smela da budu ponuđena
Metina AI opcija osmišljena je tako da korisnicima ispod objava predlaže pitanja na koja zatim mogu da dobiju odgovore. Odgovori se zasnivaju na informacijama kojima taj korisnik već ima pristup. To može da uključi sadržaj sa sopstvenog profila, javne objave i sadržaj prijatelja i članova porodice koji mu je dostupan na Metinim platformama.
Objava Keli Robins na Instagramu prikupila je više od 300.000 lajkova, a na slučaj je reagovala i Meta. Kompanija je branila način na koji njen AI funkcioniše, ali je priznala da sistem u ovom slučaju nije smeo da predloži takva pitanja.
U izjavi za Futurizam iz Mete su poručili: "Ovu opciju smo kreirali kako bismo ljudima pomogli da dobiju više informacija o temama ili objavama koje ih zanimaju. Kada neko klikne na predlog, odgovor se generiše na osnovu informacija kojima korisnik već ima pristup. Ipak, ovde smo pogrešili jer sistem nikada nije trebalo da predloži takva pitanja. Taj problem smo rešili."
Iako je Meta objavila da je problem rešen i da njen AI više ne bi trebalo da predlaže takva pitanja, nije detaljno objasnila šta je promenjeno.
"Šta je tačno popravljeno? Koji je sigurnosni mehanizam zakazao? I kakve zaštitne mere sada postoje kada Meta AI naiđe na podatke koji se odnose na dete?", upitala je Robins u svom videu objavljenom 10. septembra.
Sve više pitanja o bezbednosti veštačke inteligencije
Razvoj veštačke inteligencije poslednjih godina prati sve više rasprava o privatnosti, bezbednosti i načinu na koji takvi sistemi dolaze do podataka. Na moguće rizike upozoravaju i pojedini ljudi koji su radili na razvoju AI alata.
Ovog meseca bivši istraživač kompanije Antropik Džejkor Koksons upozorio je da bi nekontrolisani razvoj veštačke inteligencije mogao da ima katastrofalne posledice.
Koksons, koji je radio u kompaniji koja stoji iza AI čatbota Klod, tvrdio je da čovečanstvo ima razvijene mehanizme za kontrolu opasnih tehnologija poput nuklearnog oružja, dok kod veštačke inteligencije takve zaštite još nisu dovoljno razvijene.
Veštačku inteligenciju opisao je kao računarske sisteme koji mogu da uče, obrađuju informacije i donose zaključke na načine koji u nekim zadacima liče na ljudsko razmišljanje.
U galeriji ispod pogledajte i savete psihologa o odgajanju dece:
BONUS VIDEO:
Izvor: Index/Yumama