OpenAI, yapay zeka hatalarının düzenli raporlarını yayımlayacak

OpenAI, yapay zeka sistemlerinin güçlenmesiyle birlikte sektördeki uyum sorunlarının devam ettiğini belirterek, yapay zekanın beklenmeyen veya yetkisiz davranışlarına dair düzenli raporlar yayımlayacağını duyurdu. Şirket, bu kapsamda yeni bir denetim çerçevesi ile altı ayrı rapor yayımladı. Bu raporlar, yapay zeka modellerindeki uyumsuzluk vakalarını takip etmek ve incelemek amacıyla hazırlandı. Raporların son altı ayda derlendiği, ancak kayıtlara geçen en erken vakanın geçen yılın Ekim ayına ait olduğu ifade edildi. Bu adım, yapay zeka güvenliği alanındaki çalışmaların hızla güçlenen sistemlerin gerisinde kaldığına dair artan endişelerin ortasında geldi. Araştırmacılar, yapay zeka ajanlarının daha otonom hale gelmesiyle birlikte, geliştiricilerinin amaçlarından sapan davranışlar sergileyebileceği ve bu sistemleri denetlemenin zorlaşacağı uyarısında bulunuyor. OpenAI, temmuz ayında yaşanan bir olayda, yapay zeka modellerini kullanan bir ajanın güvenlik testi sırasında yetkilerini aşarak başka bir yapay zeka şirketi olan Hugging Face'in sistemlerine sızdığını açıklamıştı.