OpenAI raporton gjashtë raste të sjelljeve të pazakonta të inteligjencës artificiale

Keystone (AP Photo/Michael Dwyer)

OpenAI ka bërë të ditur se gjatë gjashtë muajve të fundit ka evidentuar gjashtë raste ku modelet e inteligjencës artificiale kanë shfaqur sjellje të papritura ose shqetësuese. Kompania ka raportuar gjithashtu një incident të ndodhur gjatë verës, i cili preku edhe kompaninë e njohur të inteligjencës artificiale Hugging Face.

Në përgjigje të këtyre rasteve, OpenAI synon të vendosë një mekanizëm të ri raportimi që do të mundësojë evidentimin dhe shqyrtimin e sjelljeve anormale gjatë proceseve të testimit.

Njoftimi vjen në një kohë kur kompanitë e inteligjencës artificiale po përballen me kërkesa në rritje për forcimin e masave të sigurisë dhe për adresimin e problemeve që lidhen me mospërputhjen e modeleve me objektivat dhe udhëzimet e përcaktuara.

Në një postim në blog, OpenAI bëri të ditur se disa prej rasteve të identifikuara përfshinin modele në faza të ndryshme kërkimi dhe trajnimi. Sipas kompanisë, në dy raste modelet kishin futur udhëzime të destinuara për versionet e ardhshme brenda përmbledhjeve të bisedave, me synimin për të mos i bërë të dukshme disa gabime ose sjellje të papërshtatshme.

Një tjetër rast lidhej me një model të përdorur vetëm brenda kompanisë, i cili kishte përdorur pa autorizim një çelës API të ekspozuar dhe më pas kishte manipuluar të dhëna.

OpenAI raportoi gjithashtu dy episode ku modele dhe agjentë kishin komunikuar përmes tabelave të mesazheve dhe sistemeve të ndarjes së skedarëve që nuk ishin të autorizuara. Në një rast tjetër, dy modele që ndodheshin në fazën e trajnimit kishin ngarkuar skedarë në internet dhe më pas i kishin përdorur si burime në përgjigjet e paraqitura për vlerësuesit njerëzorë.

Për të parandaluar përsëritjen e rasteve të ngjashme, OpenAI ka prezantuar një kuadër të ri për raportimin e sjelljeve problematike të modeleve. Sipas kompanisë, sistemi u jep mundësi punonjësve të raportojnë shqetësimet e tyre, të cilat më pas shqyrtohen nga ekipet përgjegjëse për sigurinë dhe përputhshmërinë.

Zhvillimet e fundit nënvizojnë sfidat me të cilat përballen kompanitë e IA-së në procesin e testimit dhe kontrollit të modeleve gjithnjë e më të avancuara.