Sosyal medya devi Meta, gençlerin dijital dünyadaki güvenliğini sağlamak adına ezber bozan bir adıma imza attı. Milyonlarca gencin aktif olarak kullandığı Instagram platformuna entegre edilen yapay zeka aracı Meta AI, artık sıradan bir sohbet botu olmanın ötesine geçerek adeta dijital bir bekçi görevi üstleniyor. Geliştirilen yeni sistem sayesinde, genç kullanıcıların yapay zeka ile gerçekleştirdiği sohbetlerde kendine zarar verme veya intihar gibi tehlikeli eğilimler saptanması halinde, durum doğrudan ebeveynlere bildirilecek. Bugüne kadar yalnızca kriz yardım hatlarına yönlendirme yapan ve yetişkinlerle konuşmayı tavsiye eden sistem, artık inisiyatif alarak risk altındaki gençlerin vasilerini proaktif bir biçimde bilgilendirecek. Ailelere sadece uyarı gitmekle kalmayacak, aynı zamanda çocuklarına nasıl destek olabileceklerine dair uzman tavsiyeleri ve çözüm kaynakları da sunulacak.
Yapay Zeka Saptayacak Uzmanlar Denetleyecek
Meta yetkilileri tarafından yapılan açıklamalara göre, tehlikeli boyutlara ulaşabilecek sohbetleri tespit etmek amacıyla özel bir algoritma inşa edildi. Ancak teknolojik hataların ve asılsız paniklerin önüne geçilebilmesi için sistemin insan denetimiyle desteklenmesi kararlaştırıldı. Yapay zekanın riskli olarak işaretlediği tüm yazışmalar, ailelere bildirim gönderilmeden önce alanında uzman insan incelemeciler tarafından tek tek değerlendirilecek. Bu aşamada dikkat çeken en önemli detay ise şirketin güvenlik konusunda ne kadar hassas davrandığı oldu. İncelemeyi yapan uzmanlar gencin niyetini tam olarak kestiremese dahi, tedbiri elden bırakmamak adına ebeveynlere mutlak suretle uyarı mesajı iletilecek.
Yıl Sonunda Tüm Dünyada Kullanıma Sunulacak
Söz konusu hayati özellik şu an için Amerika Birleşik Devletleri, Birleşik Krallık, Avustralya ve Kanada sınırları içerisinde, Instagram ebeveyn denetimi araçlarını aktif eden aileler için erişime açıldı. Güvenlik kalkanının yıl sonuna kadar dünya genelindeki tüm kullanıcıların hizmetine sunulması planlanıyor. Meta'nın güvenlik adımları yalnızca gençlerle de sınırlı kalmıyor. Şirket, yaşı ne olursa olsun herhangi bir kullanıcının anlık intihar riski taşıdığı tespit edildiğinde, acil sağlık ve güvenlik servisleriyle doğrudan iletişime geçilmesini sağlayacak devrim niteliğinde bir başka özellik üzerinde daha mesai harcıyor. Benzer bir koruma kalkanının halihazırda OpenAI tarafından da ChatGPT üzerinden Güvenilir Kişi seçeneğiyle kullanıcılara sunulduğu biliniyor.