Yoshua Bengio: 'Yapay Zekâ Kontrol Edilmezse İnsanlık İçin Büyük Tehdit Oluşturabilir'

Kanadalı bilgisayar bilimci ve yapay zekâ uzmanı Yoshua Bengio, yapay zekânın denetlenmesi gerektiği konusunda uyarılarda bulundu. Derin öğrenme ve yapay sinir ağları alanında önemli çalışmalara imza atan Bengio, 2018 Turing Ödülü'nü kazanan üç bilim insanından biri olarak tanınıyor.

Yapay Zekâ Güvenliği İçin Acil Önlemler Çağrısı

Bengio, yapay zekâ alanındaki hızlı ilerlemenin ciddi güvenlik riskleri oluşturduğunu savunuyor. Özellikle GPT-3 ve GPT-4 gibi modellerin çıkışından sonra, 'yapay genel zekâ' kavramı etrafında artan endişeler nedeniyle ABD Senatosu’nda yeminli ifade veren Bengio, hükümetlerin ve teknoloji şirketlerinin bu alandaki denetimleri sıkılaştırması gerektiğini belirtiyor.

Bilim insanı, yapay zekânın insanlık için tahmin edilemeyen riskler barındırabileceğini ve bu konuda küresel çapta daha katı yasal düzenlemelere ihtiyaç duyulduğunu vurguluyor. Bengio, Avrupa Birliği ve Birleşmiş Milletler tarafından desteklenen Gelişmiş Yapay Zekâ Güvenliğine Dair Uluslararası Bilimsel Rapor Konseyi'ne başkanlık ediyor.

"Yapay Zekâ Denetlenmezse Felaket Kaçınılmaz Olabilir"

Londra'daki bir bilim festivalinde gerçekleştirilen röportajda konuşan Bengio, yapay zekânın regüle edilmemesi durumunda insanlık için büyük tehditler doğurabileceğini söyledi. Yapay zekâ sistemlerinin kötü niyetli kişiler tarafından manipüle edilebileceğini belirten Bengio, bu sistemlerin demokratik süreçleri bozabilecek, biyolojik silah üretimini hızlandırabilecek ve siber saldırılar düzenleyebilecek potansiyele sahip olduğunu ifade etti.

Bengio, "İnsanlar yapay zekânın getirdiği riskleri bilim kurgu olarak görmeye meyilli, ancak bu gerçek bir tehdit. Eğer yapay genel zekâ kontrol edilemezse, insan kontrolü kaybedilebilir veya bu teknoloji kötü niyetli grupların eline geçebilir. Bu da dünya çapında bir otoriter rejime zemin hazırlayabilir" dedi.

"Hızla Önlem Alınmalı"

Bengio'ya göre, yapay zekâ ile ilgili en büyük sorunlardan biri, şirketlerin bu teknolojiyi hızla geliştirme yarışına girmesi. Teknoloji devlerinin yapay zekâ araştırmalarını daha güvenli hâle getirmek için ciddi adımlar atmaları gerektiğini belirten Bengio, şu anda şirketlerin gönüllülük esasına dayalı güvenlik protokolleri izlediğini, ancak bunun yeterli olmadığını söylüyor.

Bengio, "Yapay zekâ sektörü, piyasadaki güçlerin kontrolüne bırakılmamalı. Nasıl ki ilaç, otomobil ve havacılık gibi sektörlerde güvenlik düzenlemeleri varsa, yapay zekâ için de aynı önlemler alınmalı" dedi.

Ayrıca, yapay zekânın çevresel etkilerine de dikkat çeken Bengio, büyük yapay zekâ modellerinin eğitilmesi için gereken enerji tüketiminin her yıl katlanarak arttığını ve bunun iklim değişikliği üzerindeki olumsuz etkilerine karşı da önlemler alınması gerektiğini belirtti.

CUMHA - CUMHUR HABER AJANSI