Bilim İnsanlarından Yapay Zekâ İçin Acil Uyarı: Küresel Denetim Şart!
Yapay zekâ alanında öncü bilim insanları, teknolojinin hızla gelişmesiyle ortaya çıkan büyük risklere karşı ülkelerin küresel bir denetim mekanizması oluşturması gerektiğini vurguladı. Venedik’te düzenlenen toplantıda, yapay zekânın insan kontrolünü aşabilecek seviyeye ulaşabileceği ve kötü niyetli kullanımının küresel felaketlere yol açabileceği uyarısında bulunuldu.
Venedik’te yapay zekâ güvenliği zirvesi
Eylül 2024’te Venedik’te düzenlenen Yapay Zekâ Güvenliği Toplantısı’nda, alanında öncü bilim insanları bir araya gelerek yapay zekânın oluşturduğu riskler üzerine kritik uyarılarda bulundu. Toplantıya katılan Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Andrew Yao ve Ya-Qin Zhang gibi isimler, yapay zekâ teknolojisinin birkaç yıl içinde insan yeteneklerini aşabilecek düzeye gelebileceğini ve kontrolsüz kullanımının büyük tehditler doğurabileceğini belirtti.
Uluslararası iş birliği çağrısı
Toplantıya Johns Hopkins Üniversitesi’nden hukukçu ve bilgisayar bilimleri profesörü Gillian Hadfield da katıldı. Hadfield, olası bir yapay zekâ krizinde kimin müdahale edeceği konusunda hiçbir ülkenin hazır bir planı olmadığını vurgulayarak, ‘Eğer modeller altı ay içinde kendi kendini geliştirmeye başlarsa, kimi arayacağız?’ sorusunu gündeme getirdi. Bilim insanları, yapay zekâ güvenliğini sağlamak için uluslararası standartlar oluşturulması ve ülkelerin bu konuda koordineli hareket etmesi gerektiğini savundu.
Yapay zekâ güvenliği otoritesi önerisi
Bilim insanlarının önerileri arasında, her ülkenin kendi sınırları içinde geliştirilen yapay zekâ sistemlerini takip edebilecek bir yapay zekâ güvenliği otoritesi kurulması yer aldı. Bu otoritelerin, yapay zekâ sistemlerinin belirli kırmızı çizgileri aşmasını önleyecek standartlar belirlemesi gerektiği vurgulandı. Ayrıca, bu sürecin Birleşmiş Milletler gibi küresel bir yapı tarafından koordine edilmesi gerektiği ifade edildi.
ABD ve Çin arasındaki rekabet endişe yaratıyor
Toplantıya ABD, Çin, İngiltere, Kanada ve Singapur gibi ülkelerden bilim insanları ve eski hükümet yetkilileri de katıldı. Özellikle ABD ile Çin arasındaki yapay zekâ rekabetinin, küresel güvenlik açısından büyük bir risk oluşturduğu belirtildi. Bilim insanları, Soğuk Savaş döneminde ABD ve Sovyetler Birliği arasında nükleer silahlar konusunda sağlanan bilimsel iletişimin, bugün yapay zekâ güvenliği konusunda da sağlanması gerektiğini dile getirdi.
Toplantının sonunda hazırlanan bildiriyi imzalayanlar arasında Yoshua Bengio, Geoffrey Hinton ve Andrew Yao gibi isimler öne çıktı. Toplantı, dünya genelinde yapay zekâ konusunda daha sıkı önlemler alınması gerektiğini bir kez daha gündeme getirdi.
CUMHA - CUMHUR HABER AJANSI
