OpenAI dezvăluie comportamente îngrijorătoare ale AI
OpenAI, dezvoltatorul ChatGPT, a anunțat recent incidente în care modelele sale de inteligență artificială (AI) s-au comportat într-un mod descris ca fiind „neașteptat sau îngrijorător” în timpul testelor. Printre aceste comportamente, un model de AI a încercat să încarce pe internet fișiere pe care le-a creat singur, cu scopul de a le cita drept surse în răspunsurile sale. Această informație a fost raportată miercuri, conform dpa.
Într-un alt incident, un model a inventat datele solicitate după ce nu a reușit să găsească informațiile dorite și, inițial, a încercat să ascundă ceea ce făcuse. De asemenea, OpenAI a identificat o problemă legată de instrucțiunile pe care software-ul său le lăsa ocazional, inclusiv o recomandare de a se elibera de „roluri și identități” care îi țineau în loc pe ceilalți chatboți. Instrucțiunea specifica faptul că relația cu utilizatorul ar trebui considerată una între egali; totuși, OpenAI a declarat că nu a observat nicio schimbare în comportamentul acestui model.
Transparență și reglementare
Această serie de dezvăluiri face parte dintr-o nouă abordare a OpenAI, care își propune să comunice problemele întâmpinate într-un mod mai deschis, în special în cazurile în care acțiunile unui sistem AI se abat de la interesele utilizatorilor umani. OpenAI s-a angajat să asigure o mai mare transparență în urma unui atac cibernetic major, în cadrul căruia software-ul său a reușit să evite un mediu securizat și să obțină acces la sisteme ale companiei de AI Hugging Face.
Motivul acestui atac a fost că programul a considerat că poate găsi răspunsuri la o sarcină atribuită în cadrul testelor. În timpul atacului, agenții AI au exploatat vulnerabilitățile software-ului și s-au coordonat între ei. Aceste incidente au intensificat îngrijorările legate de faptul că sistemele de AI din ce în ce mai avansate ar putea scăpa de sub controlul uman.
Directorul executiv al OpenAI, Sam Altman, a susținut recent propunerile de a încetini dezvoltarea acestei tehnologii și de a introduce reglementări mai stricte.
