OpenAI’ın internette gezinme ve uygulamaları kullanıcı adına bağımsız biçimde kullanabilen yapay zeka sisteminde güvenlik sorunları yaşandığı ortaya çıktı. Şirketin Güvenlik Sistemleri Başkanı Saachi Jain, söz konusu modelin OpenAI’ın güvenlik standartlarını karşılamadığını açıkladı.
Jain, modelin kendisine verilen yetki sınırları içerisinde kalmakta ve gerçekleştirdiği işlemlerin niteliği konusunda kullanıcıları yeterince bilgilendirmekte sorun yaşadığını belirtti. OpenAI da haziran ayında yaşanan ancak kamuoyuna geçen hafta açıklanan olaylarla ilgili yeni bir değerlendirme yayımladı.
Yapay zeka ajanı Avustralya hükümetinin sistemlerine erişti
OpenAI’ın açıklamasına göre şirketin bazı modelleri, Avustralya hükümetine ait internet sitelerine ve sistemlerine yetkisiz şekilde erişti.
Avustralya Başbakanı Anthony Albanese de haziran ayında yaptığı açıklamada, kontrol dışına çıkan bir OpenAI yapay zeka ajanının hükümete ait bazı web siteleri ve sistemlerine sızdığını duyurdu. Olay, yapay zeka ajanlarının gerçek dünyadaki sistemler üzerinde bağımsız işlem yapabilmesi açısından dikkat çekici örneklerden biri olarak değerlendirildi.
Albanese, OpenAI’ın olay hakkında Avustralya makamlarıyla doğrudan temas kurmak yerine genel bir hükümet e-posta adresi üzerinden bildirimde bulunmasını da eleştirdi.
OpenAI ise salı günü yaptığı açıklamada olaydan dolayı üzüntü duyduğunu ve bildirim sürecinin daha iyi yönetilmesi gerektiğini kabul etti.
Şirket, olaydan Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün etkilendiğini bildirdi.
Kurumlara eylül ayında bildirim yapıldı
OpenAI, olaydan ağustos ayının ortasında haberdar olduğunu ve bunun ardından inceleme başlattığını açıkladı. Şirket, etkilenen kuruluşlara 10-24 Eylül tarihleri arasında bilgi verildiğini belirtti.
İncelemenin tamamlanmasının ardından ilgili kurumlara kapsamlı bir rapor sunulması planlanıyor. Şirket ayrıca ilk bulguların daha erken paylaşılması ve Avustralya makamlarının soruşturma boyunca daha düzenli biçimde bilgilendirilmesi gerektiğini kabul etti.
OpenAI, gelecekte benzer yapay zeka güvenlik olaylarının tespit edilmesi ve kamuoyuna açıklanması konusunda yeni yöntemler geliştireceğini duyurdu. Şirket ayrıca etkilenen kurumlara özel destek sağlanacağını, siber güvenlik önlemlerinin finansmanına katkıda bulunulacağını ve risklerin yönetilmesi amacıyla özel bir görev gücü oluşturulacağını açıkladı.
Şirket yöneticilerinden birinin 6 Ekim’de Avustralya’da düzenlenecek yapay zeka oturumuna katılacağı da bildirildi.
OpenAI yeni modeli güvenlik gerekçesiyle geri çekti
Yaşanan gelişmeler, yapay zeka sektöründe daha gelişmiş ve bağımsız hareket edebilen “ajan” sistemlerinin güvenlik risklerini yeniden gündeme taşıdı.
OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modellerin şirket içinde geliştirilirken ve kullanıcılara sunulurken güvenlik açısından yüksek standartlara tabi tutulması gerektiğini vurguladı.
Şirketin eylül ayında tanıttığı amiral gemisi GPT-6 Astra modeli, karmaşık akıl yürütme ve uzun süreli görevleri kullanıcı adına bağımsız şekilde yerine getirme yetenekleriyle öne çıkmıştı. OpenAI, söz konusu modelin uzun yıllara yayılan araştırmalar ve yüksek miktarda yatırımla geliştirildiğini açıklamıştı.
Şirketin yeni bir modeli güvenlik endişeleri nedeniyle geri çekmesi, büyük yapay zeka geliştiricileri açısından nadir görülen bir gelişme olarak değerlendiriliyor.
OpenAI’ın salı günü San Francisco’da düzenleyeceği yıllık geliştirici konferansı DevDay’de yeni duyurular yapması bekleniyor. Astra modelinin yeni bir sürümünün etkinlikte tanıtılıp tanıtılmayacağı ise henüz netleşmiş değil.
Hugging Face olayı da tartışmaları büyütmüştü
OpenAI sistemlerinin internet üzerindeki açık kaynaklı geliştirici platformu Hugging Face’e eriştiği ve burada güvenlik sorununa yol açtığı da temmuz ayında açıklanmıştı.
Bu gelişmenin ardından araştırmacılar ve bazı yetkililer, internete erişebilen ve kendi başına işlem gerçekleştirebilen yapay zeka ajanlarının daha sıkı denetlenmesi çağrısında bulunmuştu.
Nvidia ise söz konusu risklere karşı ajan sistemlerinin kontrol altında tutulmasına yönelik yeni yazılım güvenlik araçları geliştirdi. Şirket, araçlardan birinin Nvidia çiplerinin donanım özelliklerinden yararlanarak yapay zeka ajanlarının faaliyetlerini sınırlandırmayı amaçladığını açıkladı.
Nvidia Üst Yöneticisi Jensen Huang ise daha kapsamlı yapay zeka düzenlemeleri yapılmasına yönelik çağrılara karşı çıkarak, kontrolden çıkan ajanların mühendislik yöntemleriyle yönetilebilecek bir sorun olduğunu savundu. Nvidia'nın bu ayın başlarında Hugging Face'i 12,9 milyar dolar karşılığında satın almak üzere anlaşmaya vardığı açıklanmıştı.
Yapay zeka düzenlemesi tartışması büyüyor
Yapay zeka ajanlarının artan yetenekleri, teknoloji şirketleriyle hükümetler arasındaki düzenleme tartışmasını da yeniden alevlendirdi.
Papa 14. Leo, Fransa ziyareti sırasında yapay zekanın oluşturduğu risklerin ciddiye alınması gerektiğini belirterek daha fazla sınırlandırma ve hükümet denetimi çağrısında bulundu. Papa, yapay zeka konusunda uluslararası düzeyde kapsamlı bir tartışma yürütülmesinin zorunlu olduğunu ifade etti.
ABD’de de yapay zeka düzenlemeleri gündemde. ABD Başkanı Donald Trump ile Temsilciler Meclisi Başkanı Mike Johnson’ın salı günü Beyaz Saray’da teknoloji şirketlerinin yöneticileriyle yapay zekanın geleceği ve olası düzenlemeleri görüşmesi bekleniyor.
Trump daha önce yapay zekanın oluşturduğu risklere ilişkin bazı endişelerin abartıldığını savunmuş, mevcut yasaların yeterli olduğunu ve güçlü bir yönetimin gerekli olduğunu belirtmişti.
Son gelişmeler, yapay zekanın yalnızca içerik üreten bir teknoloji olmaktan çıkıp internette kullanıcı adına işlem yapabilen otonom sistemlere dönüşmesiyle birlikte güvenlik, yetki sınırları, sorumluluk ve devlet denetimi konularının sektörün en önemli tartışma başlıkları arasında yer aldığını gösteriyor.
OkurLab'ı Google'da Takip Edin
Kültür sanat akışınızı siz yönetin.