Yapay zekâ dünyasında son dönemde yükselen sesler, artık yalnızca inovasyon hızını değil, bu hızın beraberinde getirdiği hayati riskleri de gündeme taşıyor. ABD ve Çin’deki önde gelen yapay zekâ araştırmacıları, kontrolsüz bir şekilde ilerleyen yapay zekânın, dünya genelinde kitlesel kayıplara yol açabilecek bir "kırılma" yaratmasından endişe ediyor.
Yapay Zekânın Çernobil’i Benzetmesi
Pekin’de düzenlenen uluslararası bir yapay zekâ konferansında dikkat çeken açıklamalarda bulunan MIT araştırmacısı Stephen Casper, sektörün en büyük kabusunun "Yapay Zekânın Çernobil’i" olduğunu vurguladı. Casper, 1986’daki nükleer felaketin nasıl enerji sektöründe güveni onlarca yıl boyunca sarstıysa, kontrolsüz bir yapay zekâ hatasının da teknolojinin geleceğini ve kamuoyu güvenini kalıcı olarak yok edebileceği konusunda uyarıyor.
Bu benzetme, aslında basit bir felaket senaryosundan öte, teknolojinin sınır tanımayan etkilerine dikkat çekiyor. Bir yapay zekâ hatasının artık sadece bir şirketi veya ülkeyi değil, tüm dünyayı domino taşı etkisiyle etkileyebileceği öngörülüyor.
Siber Güvenlik Ve Biyoteknolojik Tehditler
Uzmanların üzerinde uzlaştığı en acil risk alanı siber güvenlik. Büyük dil modellerinin artık karmaşık yazılımlar geliştirebilmesi ve teknik kodlar yazabilmesi, iyi niyetli kullanımda devrim yaratırken, kötü niyetli ellerde siber saldırıları "sıradanlaştırma" riski taşıyor. İleri teknik bilgi gerektiren siber saldırıların, bu araçlarla çok daha geniş kitleler tarafından erişilebilir hale gelmesi, uzmanların "asıl kaygı" olarak tanımladığı nokta.
Ayrıca biyoteknoloji alanındaki kontrolsüz kullanımın, biyolojik riskleri artırabileceği konusundaki uyarılar da bilim dünyasında ciddiyetle ele alınıyor.
Şirketlerden "Güvenlik" İtirafı: Claude Mythos Örneği
Yapay zekâ şirketlerinin kendi modellerine karşı geliştirdikleri "çekimser" tutumlar da endişeleri destekliyor. Yakın zamanda Anthropic firmasının, en gelişmiş modellerinden biri olan Claude Mythos'u, "yanlış ellerde tehlikeli olabileceği" gerekçesiyle genel erişime kapatması, sektörün kendi yarattığı gücün ne kadar kontrol dışına çıkabileceğini gösteren en somut örneklerden biri oldu.
İş Birliği Mi, Rekabet Mi
Tüm bu risklere rağmen, ABD ve Çin arasındaki jeopolitik gerilim, ortak bir "yapay zekâ güvenliği" protokolü oluşturulmasının önündeki en büyük engel. Araştırmacılar, Soğuk Savaş döneminde ABD ve SSCB’nin nükleer felaketi önlemek adına kurduğu diyalog mekanizmalarını örnek göstererek, yapay zekâ için de benzer bir küresel iş birliğinin şart olduğunu savunuyor.
Casper ve meslektaşları, yapay zekânın küresel bir fayda olması için, ülkelerin rekabetin ötesine geçip "teknolojik güvenlik" konusunda ortak bir zemin bulması gerektiğini belirtiyor.