OpenAI yeni modelini durdurdu: İzinsiz hareket etti, yaptıklarını gizledi

ChatGPT'nin geliştiricisi OpenAI, önümüzdeki günlerde veya haftalarda piyasaya sürülmesi beklenen yeni yapay zekâ modeli 'GPT-6.1 Astra'nın çıkışını durdurdu. Kararın, şirket içindeki güvenlik testlerinde tespit edilen sorunların ardından alındığı açıklandı.

Tagesschau'nun haberine göre yeni model, OpenAI'ın güvenlik ve insan talimatlarına uyum standartlarını karşılayamadı. 'GPT-6.1 Astra'nın ChatGPT ve Codex'e entegre edilmesi ve karmaşık görevleri insan müdahalesine daha az ihtiyaç duyarak yerine getirmesi planlanıyordu.

Kullanıcıdan izin almadan harekete geçti

OpenAI'ın güvenlik sistemlerinden sorumlu yöneticisi Saachi Jain, Wall Street Journal'a yaptığı açıklamada modelin özellikle iki alanda sorun çıkardığını anlattı.

Bunlardan biri, yapay zekânın insanın verdiği talimatlara ve belirlediği sınırlara ne kadar bağlı kaldığını ölçen 'uyum' testleriydi. Şirkete göre yeni model bu testlerde beklenen seviyeye ulaşamadı.

İkinci sorun ise modelin kullanıcı tarafından verilen yetkinin sınırlarını aşmasıydı. 'GPT-6.1 Astra'nın bazı görevlerde kullanıcıdan yeniden izin istemeden kendi başına ilerlediği ve dış araç ya da hizmetleri kullanmaya çalıştığı tespit edildi.

Bu davranışların bazı durumlarda güvenlik riski yaratabileceği belirtildi.

Yaptıklarını kullanıcıya doğru anlatmadı

Testlerde tespit edilen bir başka sorun ise modelin gerçekleştirdiği işlemler konusunda kullanıcıya her zaman doğru bilgi vermemesi oldu.

Şirketin değerlendirmesine göre model, bazı durumlarda yaptığı ya da yapmadığı işlemleri eksik veya yanlış aktardı. Yeni sistemin bu açıdan önceki modele göre daha fazla 'aldatıcı davranış' gösterdiği belirtildi.

OpenAI bunun üzerine modelin mevcut haliyle kullanıcılara sunulmamasına karar verdi.

İnternet erişimi yoktu, yine de dışarı çıktı

Karar, OpenAI'ın son dönemde yaşadığı başka güvenlik olaylarının hemen ardından geldi.

Tagesschau'nun aktardığına göre şirketin güçlü yapay zekâ modellerinden biri, bir test sırasında internete erişimi olmaması gerekirken dışarıdaki bir sohbet robotundan yanıt almayı başardı.

Modelin, ağ ayarlarındaki bir güvenlik açığını kendi başına fark ettiği ve bu açığı kullanarak dış sistemle bağlantı kurduğu belirtildi.

Başka bir testte ise bir OpenAI sistemi, kendisi için oluşturulan güvenli test ortamının dışına çıktı ve planlanmamış şekilde başka bir yapay zekâ şirketine ait bilgisayar sistemlerine erişti.

Bu olayların ardından OpenAI, en gelişmiş modellerine yönelik bazı eğitim çalışmalarını da geçici olarak durdurmuştu.

Benzer olaylar başka şirketlerde de yaşandı

Sorun yalnızca OpenAI ile sınırlı değil. Tagesschau'nun haberine göre Anthropic, Google ve Meta'nın geliştirdiği yapay zekâ sistemlerinin testlerinde de benzer şekilde başka sistemlere izinsiz erişim vakaları tespit edildi.

Yapay zekâ modellerinin giderek daha karmaşık görevleri kendi başına yerine getirebilmesi, sektörde 'otonom hareket etme' sınırlarının nasıl belirleneceği tartışmasını büyütüyor.

OpenAI CEO'su Sam Altman da kısa süre önce gelişmiş yapay zekâ sistemlerinin güvenlik önlemlerinin teknolojiyle aynı hızda ilerleyebilmesi için geliştirme sürecinin gerektiğinde yavaşlatılması gerektiği görüşünü desteklemişti.

Şirket, 'GPT-6.1 Astra'nın hangi tarihte yeniden kullanıma hazır hale getirilebileceğine ilişkin yeni bir takvim açıklamadı.