Oamenii de ştiinţă vor să creeze o inteligenţă artificială pentru a controla agenţii AI
Yoshua Bengio, un profesor din Montreal, a prezentat marţi noua sa organizaţie dedicată unei AI responsabile, care doreşte să construiască software-uri capabile să prevină derapajele agenţilor AI, informează AFP.
De mai mulţi ani, acest profesor franco-canadian, recompensat în 2018 cu premiul Turing, supranumit "Nobelul pentru informatică", avertizează în legătură cu riscurile asociate cu dezvoltarea AI, indiferent dacă este vorba despre utilizarea inteligenţei artificiale cu rea intenţie sau despre derapajele în sine ale software-urilor.
"Sistemele cele mai avansate arată deja semnele unui instinct de conservare şi comportamente înşelătoare", a explicat Yoshua Bengio într-un comunicat publicat marţi. "Şi acest lucru va continua să se accelereze pe măsură ce capacităţile lor şi autonomia lor vor creşte", a adăugat el.
„Un răspuns la aceste provocări”
Noua sa organizaţie fără scop lucrativ, denumită LawZero, se doreşte "un răspuns la aceste provocări".
Mai multe exemple recente au confirmat faptul că AI a depăşit recent anumite praguri de sofisticare, inclusiv într-un studiu realizat de start-upul Anthropic.
Într-un scenariu test fictiv, noua interfaţă AI generativă dezvoltată de Anthropic, Claude 4, a fost avertizată de înlocuirea sa iminentă de către un inginer în informatică.
Încolţită, acea inteligenţă artificială a încercat din proprie iniţiativă să îl şantajeze pe inginer pentru a îl descuraja să renunţe la ea.
LawZero şi-a fixat misiunea de "a propune un mod de supraveghere a agenţilor AI", noua generaţie de modele AI generative care sunt capabile să efectueze o varietate de sarcini în manieră autonomă, de la căutări pe internet şi până la area telefonică a unui client sau scrierea unui program în linii de cod.
"Unul dintre primele obiective este de a dezvolta o formă de AI care să poată fi utilizată ca o măsură de protecţie, pentru a ne asigura că inteligenţa artificială se comportă corect", a declarat Yoshua Bengio într-un videoclip publicat pe site-ul companiei LawZero.
"AI poate fi extrem de benefică dacă ne asigurăm că ea nu va fi dăunătoare pentru oameni, fie în cazul în care intră pe mâini rele, fie în cazul în care devine aşa într-un mod autonom", a adăugat el.
LawZero doreşte, de asemenea, să lucreze la dezvoltarea unei AI cu autonomie limitată pentru a fi destinată cercetării ştiinţifice.
Această organizaţie a angajat deja peste 15 cercetători şi a primit mai multe contribuţii financiare, inclusiv de la Schmidt Sciences, o organizaţie de caritate înfiinţată de un fost director de la Google, Eric Schmidt, şi de soţia sa, Wendy.
LawZero a fost lansată sub egida Institutului pentru Algoritmi de Învăţare din Montreal (MILA), creat în 1993 de Yoshua Bengio.
