OpenAI a fost supusă unui control riguros privind gestionarea datelor și teama că inteligența artificială ar putea dăuna societății. OpenAI se asociază cu o organizație de siguranță a copiilor pentru a crea linii directoare și materiale educaționale în domeniul inteligenței artificiale pentru adolescenți și familii. Această mișcare vine în condițiile în care compania din spatele ChatGPT se confruntă cu controverse legate de gestionarea datelor și teama că inteligența artificială ar putea dăuna societății.
Colaborarea cu organizația non-profit Common Sense Media, care evaluează dacă media și tehnologia sunt potrivite pentru copii, a fost anunțată la San Francisco.
Aplicația a fost criticată pentru neasigurarea protecției minorilor, deoarece nu există nicio modalitate de a verifica vârsta utilizatorului. Ea este, de asemenea, supusă unui control deoarece instrumentele sale pot provoca halucinații, iar sistemele de inteligență artificială pot inventa lucruri sau pot prezenta biasuri din cauza datelor folosite pentru instruirea acestor instrumente.
Cu toate acestea, CEO-ul OpenAI, Sam Altman, a respins ideea că inteligența artificială ar fi periculoasă pentru copii și că instrumentele AI ar trebui să fie interzise în școli. El a subliniat că este necesar să le învățăm pe oameni să folosească aceste instrumente care vor fi prezente în lumea reală.
Common Sense Media încearcă să dezvolte un sistem de evaluare a inteligenței artificiale pentru părinți, copii și educatori. Unii academicieni au exprimat îngrijorări cu privire la modul în care roboții de chat AI ar putea fi folosiți pentru a scrie eseuri. Dar copiii și minorii folosesc și ChatGPT pentru a-și rezolva problemele personale.
Conform unui sondaj pentru organizația non-profit Centre for Democracy and Technology, 29% dintre copii și adolescenți din SUA au folosit ChatGPT pentru a-și rezolva probleme legate de anxietate sau sănătate mintală, 22% pentru probleme legate de prieteni și 16% pentru conflicte în familie.
Sursa: https://www.euronews.com/next/2024/01/30/chatgpt-maker-openai-teams-up-with-childrens-safety-non-profit-to-create-ai-guidelines
