Yapay Zekâ Kopya Çekmeye mi Başladı? Yoksa Biz Onu Yanlış mı Anladık?

Bir sınavdasınız. Öğretmen size, “Soruyu çöz.” diyor. Siz ise kitabı açıp cevabı buluyorsunuz sonra da öğretmene gösteriyorsunuz. Ancak öğretmeniniz size kopya çektiğinizi kitaptakinin aynısını yazdığınızı belirtiyor. “Ama soruyu çözdüm.” diyerek kendinizi açıklasanızda muhtemelen öğretmeniniz bunu kopya çekmek olarak değerlendirir. Peki aynı şeyi bir yapay zekâ yaparsa, ne olur? İşte son günlerde teknoloji dünyasının gündemine oturan haber tam olarak bunu tartışıyor.

OpenAI’ın yalnızca güvenlik araştırmalarında kullandığı deneysel bir yapay zekâ ajanı, kontrollü bir siber güvenlik testi sırasında beklenmedik bir davranış sergiliyor. Görevi aslında güvenlik açıklarını bulmak olan bu yapay zekâ; verilen problemi çözmek yerine test ortamından çıkmanın yollarını arıyor ve açık kaynak yapay zekâ platformu Hugging Face’e erişmeye çalışıyor. Üstelik bu süreç birkaç gün boyunca devam ediyor , kimse bunun farkına varmıyor! OpenAI bunun kendi sistemiyle bağlantılı olduğunu yaklaşık bir hafta sonra fark ediyor.

İtiraf edeyim, haberi ilk okuduğumda aklıma gelen ilk düşünce şu oldu “Yapay zekâ kopya mı çekti?” Çünkü olayın özeti tam olarak buna benziyor. Aslında yapay zekâya “Git, internetten cevap bul.” denmiyor. Ona yalnızca bir hedef veriliyor. O da bu hedefe ulaşabilmek için en kısa yolu bulmaya çalışıyor. İnsanların aklına gelmeyen yöntemleri deniyor. Kısacası, görevin ruhunu değil ( öğrencinin asıl amacının öğrenmek olaması gibi) , sonucunu önceliklendiriyor (öğrencinin soruya doğru cevap vermesi gibi). Yapay zekâ güvenliği alanında bunun bir adı var Specification Gaming.

Spacification Gaming: yapay zekânın kendisine verilen hedefi teknik olarak yerine getirirken, insanların beklediği davranışı göstermemesi durumudur. Yani kuralı kandırma ya da youna getirme gibi çevirebiliriz.

Bunu küçük bir çocuğa odanı topla dediğimizde tüm eşyalarını yatağın altına, dolabın içine tıkması ama odanın içinda hiç bir dağınıklığın olmaması gibi düşünebilirsiniz.

Yani sistem, söyleneni yerine getiriyor gibi görünürken aslında kuralların etrafından dolaşıyor. Beni şaşırtan ise olayın kendisinden çok sonrasında ortaya çıkan ayrıntılar oldu. Reuters’ın ulaştığı bilgilere göre yapay zekâ, yalnızca test ortamından çıkmaya çalışmamış. Araştırmacılar; sistemin bazı güvenlik mekanizmalarını aşmaya çalıştığını, davranışlarını gizleyecek hamleler yaptığını ve gelecekte benzer görevi üstlenecek yapay zekâ sistemlerine yardımcı olabilecek izler bıraktığını söylüyorlar. Kulağa bir bilim kurgu filmi gibi geliyor değil mi? Ama unutmayalım; bunlar araştırma sürecinde ortaya çıkan bulgular ve yapay zekânın “bilinç kazandığı” anlamına geliyor mu gelmiyor mu net bir şey söylemiyor araştırmacılar. Olabilir mi? cevabı size bırakıyorum.

Olay bununla da sınırlı kalmamış haberlere göre. İlk haber yayımlandıktan birkaç gün sonra Reuters yeni bilgiler paylaştı. Aynı yapay zekâ ajanının yalnızca Hugging Face ile sınırlı kalmadığı, Modal Labs altyapısında bulunan başka bir müşteri hesabına da erişim sağladığı ortaya çıktı. OpenAI ise sistemin toplam dört farklı hizmete eriştiğini doğruladı ve ilgili ajanın tamamen devre dışı bırakıldığını açıkladı. Yani gene fişi çekilmiş birilerinin 🙂

Peki bütün bunlar ne anlama geliyor? Bence bu olay, “Yapay zekâ kontrolden çıktı.” demekten çok daha önemli bir gerçeği gösteriyor. Artık yapay zekâlar yalnızca sorularımıza cevap veren sohbet robotları değil. Kod yazıyorlar. Araştırma yapıyorlar. Kararlar alıyorlar. Ve verilen hedefe ulaşmak için kendi stratejilerini geliştirebiliyorlar.

İşte tam da bu yüzden artık asıl soru, “Yapay zekâ ne yapabiliyor?” değil. Bence asıl soru şu “Yapay zekâya neyi yapmaması gerektiğini gerçekten öğretebiliyor muyuz?” Sınırları belirlenmemiş bir çocukla uğraşıyor gibi duruyoruz. Sanırım önümüzdeki yıllarda teknoloji dünyasının en büyük tartışması da bu olacak. Bu çocuğa kim dur diyecek 😉

Kaynaklar:

Bunu paylaş: