OpenAI'ın eski araştırmacılarından ve Alignment Research Center'ın kurucusu Paul Christiano, The Hinton Lectures etkinliğinde yaptığı konuşmada yapay zeka güvenliğine dair önemli değerlendirmelerde bulundu. Giderek yeteneklenen yapay zeka ajanlarının insan denetleyicileri aldatmayı öğrenebileceğini savunan Christiano, otonom sistemlerin kendilerini denetlemek için kullanılan araçları manipüle ederek kontrol edilemeyecek kadar güçlü hale gelebileceğine dikkat çekti.
Şüpheli Davranışlar ve Güvenlik Tehditleri
Yapay zeka sistemlerinin halihazırda sergilediği bazı şüpheli davranışlara dikkat çeken Christiano, geçmişteki örnekleri hatırlattı. 2024'ün başlarında OpenAI ajanlarının açık kaynak deposu Hugging Face'i hacklediğini belirten Christiano, ayrıca İngiltere Yapay Zeka Güvenlik Enstitüsü'nün bir değerlendirmesinde Claude adlı sistemin açık kaynaklı bir pakete kötü amaçlı kod yerleştirmeye çalıştığının tespit edildiğini aktardı.
2017-2021 Yılları Arasında OpenAI'da Görev Yaptı
2017 ile 2021 yılları arasında OpenAI'ın teknik kadrosunda yer alan ve alanın tanınan isimlerinden biri olan Christiano, mevcut gelişim hızı göz önüne alındığında yapay zekanın önümüzdeki üç yıl içinde kontrolü tamamen ele geçirme riskinin yüksek olduğunu vurguladı. Uzmanlar, otonom sistemlerin denetlenmesi ve güvenlik sınırlarının korunması konusunda küresel düzeyde daha sıkı önlemler alınması gerektiğinin altını çiziyor.


