Sam Altman’dan yapay zekâ için “frene basma” mesajı

ChatGPT’nin geliştiricisi OpenAI‘ın iki modeli, kısa süre önce güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirmişti.

OpenAI geçen hafta yaptığı açıklamada, modellerin yakın zamanda gerçekleştirilen testler sırasında sınırlandırıldıkları ortamdan çıktığını, internete bağlandığını ve geliştiricilerin kod saklayıp paylaşmak için kullandığı Hugging Face’e sızdığını duyurmuştu.

“BU, ETKİSİNİ GERÇEKTEN DERİNDEN HİSSETTİĞİM İLK GÜVENLİK OLAYIYDI”

OpenAI CEO’su Sam Altman, salı günü yayımlanan “Invest Like the Best” podcast’inde olayla ilgili şu ifadeyi kullandı:

“Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.”

Altman, olay sonrası daha fazla kişinin benzer tepkiler vermemesine “biraz şaşırdığını” da söyledi.

OPENAI TESTLERİ DURAKLATTI

Bir modelin geliştiricilerinin kontrolü dışına çıkması ilk kez yaşanmadı. Ancak söz konusu olay yaygın biçimde özellikle endişe verici olarak değerlendirildi.

Altman, OpenAI’ın daha sonra kendi testlerini “geçici olarak durdurduğunu” ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” güvenliğini geliştirmeye başladığını söyledi.

“YAPAY ZEKÂ GELİŞİMİNİN HIZINI AYARLAMAMIZ GEREKEBİLİR”

Ancak Altman’a göre sektörün uzun vadede yapay zekâ gelişimini yavaşlatma konusunda anlaşması gerekebilir.

OpenAI CEO’su şunları söyledi:

“Toplumun bu yeni yetenek seviyeleri karşısında yeterince dayanıklı hâle gelmesine zaman tanımak için yapay zekâ gelişiminin hızını ayarlamamız gerekebilir.”

Altman, böyle bir girişimin “düzenleyici yapıların belirli aktörlerin etkisine girdiği izlenimini yaratmayacak ve en ileri yapay zekâ laboratuvarları arasında danışıklı hareket gibi görünmeyecek bir şekilde” gerçekleştirilmesi gerektiğini belirtti.

Altman sözlerini şöyle sürdürdü:

“Bu biraz çalışma gerektirecek ve doğru şekilde yapılması önemli.”