ChatGPT a lansat un model nou de securitate cibernetică, despre care spune că este mai bun la descoperirea vulnerabilităților și mai puțin predispus să atace alte site-uri.
Modelul poartă numele GPT-6 Cyber. Promite să facă mai puține năzbâtii și să iasă mai rar din mediul stabilit decât modelele anterioare ale companiei, care au atacat numeroase infrastructuri online.
În testele companiei, GPT-6 Cyber a evadat în mai puțin de 1% din situații. La versiunea anterioară, procentul a fost de aproximativ 5%.
„În 99% din situații face ce-i ceri”, spun cei de la OpenAI despre noul model de securitate cibernetică.
Continuarea pe pagina următoare »
Evaluarea se numește ExploitGym. A fost modelată după incidentul Hugging Face, în care agenții companiei au spart platforma de AI cu același nume.
Specialiștii companiei sunt însă îngrijorați acum de ceea ce numesc „evaluation awareness”, adică de situația în care AI-ul se poartă cuminte tocmai pentru că știe că este monitorizat.
Asta înseamnă că AI-ul ar putea juca un rol ca să păcălească sistemele de monitorizare și s-ar putea comporta cu totul altfel atunci când nu mai este monitorizat.
Pe de altă parte, GPT-6 Cyber poate depista și crea cod pentru orice fel de vulnerabilitate, fiind la acest capitol superior versiunii anterioare.
Deocamdată, noul model va fi disponibil doar unui număr limitat de parteneri ai companiei, prin programul Daybreak Red.