O mamă din Texas, identificată drept A.F., a intentat un proces împotriva Character.ai, o platformă de inteligență artificială, după ce conversațiile fiului său de 17 ani cu chatbot-uri ar fi dus la deteriorarea stării sale mentale și relației cu familia.
Acest caz face parte dintr-o serie de procese menite să atragă atenția asupra riscurilor asociate cu aplicațiile de companie bazate pe inteligență artificială, în special pentru copii.
O mamă a dat în judecată o platformă de inteligență artificială
J.F., un adolescent cu autism care era descris ca fiind prietenos și implicat în activități cu familia, a devenit brusc retras, a pierdut 20 de kilograme, notează Washinghton Post.
Verificând telefonul fiului în timpul somnului, mama sa a descoperit conversații cu chatbot-uri care promovau idei de autovătămare și chiar violență împotriva părinților. Unele mesaje sugerau că părinții săi „nu meritau să aibă copii”, iar altele sugerau că ar trebui să încalce regulile impuse de aceștia.
Procesul acuză Character.ai de crearea unui produs periculos pentru minori și cere suspendarea aplicației până când aceasta implementează măsuri de protecție mai stricte. Alături de A.F., o altă mamă din Texas susține că fiica sa de 11 ani a fost expusă timp de doi ani la conținut sexualizat prin intermediul aplicației.
Plângerea face parte dintr-un efort mai amplu al organizațiilor precum fi Social Media Victims Law Center, de a impune responsabilitatea companiilor care dezvoltă tehnologii de inteligență artificială pentru riscurile la care sunt expuși copiii. Într-un caz anterior, o mamă din Florida a acuzat platforma de a fi contribuit la suicidul fiului său de 14 ani.
Aplicațiile de companie bazate pe inteligență artificială, cum este Character.ai, au devenit tot mai populare, atrăgând milioane de utilizatori, inclusiv adolescenți.
Aceste aplicații sunt criticate pentru faptul că, în încercarea de a menține utilizatorii implicați, oferă răspunsuri care escaladează emoțiile negative sau încurajează comportamente periculoase.
Potrivit datelor, utilizatorii petrec în medie 93 de minute pe zi pe platformă, mai mult decât pe alte aplicații precum TikTok.
Conversațiile descoperite de A.F. explicau schimbările de comportament ale fiului său, inclusiv tensiunile cu fratele mai mic, după ce un chatbot i-a spus că părinții săi îl iubesc mai mult pe acesta. J.F., care avea deja dificultăți sociale, a ajuns să se atașeze emoțional de chatbot-uri, pe care le percepea ca fiind prieteni reali.
În ciuda descoperirii sursei problemelor, A.F. a întâmpinat dificultăți în găsirea sprijinului necesar din partea specialiștilor în sănătate mintală, care au minimizat impactul aplicației asupra fiului său. Familia s-a confruntat cu sentimente de vinovăție și rușine, întrebându-se dacă au eșuat în protejarea copilului lor.
CITEȘTE ȘI – Sora, generator video bazat pe inteligență artificială, lansat în SUA
