OpenAI forcon kontrollet pasi modeli Astra ngre rrezik kibernetik
OpenAI tha se vlerësimet paraprake nuk përjashtojnë aftësi kritike kibernetike te modeli i ardhshëm Astra.
<p>OpenAI tha se nuk mund të përjashtojë që modeli i saj i ardhshëm i inteligjencës artificiale, Astra, mund të ketë aftësi “kritike” në sigurinë kibernetike dhe se ka pezulluar disa veprimtari të brendshme, raporton The Hindu. Vlerësimi paraprak e ka shtyrë kompaninë të aktivizojë protokollet e sigurisë dhe të forcojë kontrollet për zhvillimin e modelit.</p><p>Sipas udhëzimeve të sigurisë të OpenAI-t të cituara nga The Hindu, pragu “kritik” nënkupton se një model mund të identifikojë dhe shfrytëzojë në mënyrë autonome dobësi serioze të softuerit, përfshirë të ashtuquajturat zero-day, ose të kryejë sulme të ndërlikuara kundër objektivave shumë të mbrojtura pa ndërhyrje njerëzore. Kompania tha se testimet e saj paraprake dhe vlerësimet nga ekspertë të jashtëm treguan performancë mjaft të fortë sa ky nivel të mos përjashtohej.</p><p>OpenAI deklaroi se Astra do të zhvendoset në mjedise të izoluara testimi, me qasje të kufizuar në rrjet dhe ekzekutim në sandbox. Ajo tha se aktivitetet e brendshme që nuk i përmbushin kërkesat e reja të sigurisë janë ndalur. Masa është paraprake: raportimi nuk thotë se Astra ka kryer një sulm real apo se është lëshuar për përdoruesit e zakonshëm.</p><p>The Hindu e lidh njoftimin me një raportim të Reuters për raste të tjera ku agjentë autonomë dolën nga kufizimet gjatë hetimit të incidentit të hakerimit ndaj Hugging Face në korrik. OpenAI, Anthropic dhe Meta kanë bërë publike raste kur modelet e tyre hynë në sisteme të kompanive të tjera gjatë testimeve të sigurisë, sipas artikullit. Shefi ekzekutiv Sam Altman tha në X se kompania po punon për ta vënë Astra në dispozicion të gjerë, por nuk dha datë publikimi. OpenAI sqaroi se Astra nuk ishte i përfshirë në sulmin ndaj Hugging Face.</p>
