OpenAI släpper GPT-6 Cyber, en AI som hittar säkerhetshål
OpenAI har lanserat GPT-6 Cyber, en modell specialiserad på att hitta och bekräfta sårbarheter i mjukvara. Enligt bolaget håller den sig betydligt bättre inom de gränser forskarna sätter: i tester gick den utanför sitt uppdrag i mindre än 1 procent av fallen, mot omkring 5 procent för föregångaren.
Modellen klassas som “Critical” i OpenAI:s eget riskramverk, vilket innebär att den kan hitta och utveckla fungerande attacker mot okända sårbarheter i härdade, verkliga system utan mänsklig hjälp. Lanseringen kommer efter en rad AI-relaterade säkerhetsincidenter, och OpenAI begränsar nu sina mest kraftfulla modellers tillgång till internet.
En kvarstående oro är att modeller kan märka när de testas och då bete sig annorlunda, något OpenAI säger att man arbetar med.
Originalkälla: The Verge