Yapay Zekâ Bilinç Kazanırsa Ne Olacak? Bilim İnsanları Etik ve Hukuki Sorunları Tartışıyor

Yapay zekâ teknolojilerinin gelişimi, etik ve hukuki boyutlarıyla yeni soruları gündeme getiriyor. Bilim insanları, yapay zekânın bilinç kazanması durumunda nasıl hareket edilmesi gerektiğini tartışıyor.

Bilinçli yapay zekâ mümkün mü?

Bilimkurgu senaryolarından gerçeğe dönüşebilecek bu olasılık, filozoflar ve bilgisayar bilimcileri tarafından ciddiyetle ele alınıyor. 4 Kasım 2024'te yayımlanan bir makalede, yapay zekâ şirketlerinin, bilinç kazanabilecek sistemlere yönelik belirli etik protokoller geliştirmesi gerektiği vurgulanıyor. Çalışmada, bilinç kazanan ancak fark edilmeyen bir yapay zekâ sisteminin ihmale uğrayabileceği, zarar görebileceği ve hatta acı çekebileceği ifade ediliyor.

Uzmanlar uyarıyor

İngiltere Brighton’daki Sussex Üniversitesi’nde bilinç üzerine çalışan bilim insanı Anil Seth, yapay zekânın gerçekten bilinç kazanıp kazanamayacağının belirsizliğini koruduğunu, ancak bu ihtimalin tamamen göz ardı edilmemesi gerektiğini söylüyor.

Oxford Üniversitesi'nden matematikçi Jonathan Mason ise, yapay zekâ sistemlerinin bilinçli olup olmadığını değerlendirebilecek güvenilir yöntemler geliştirilmesi gerektiğini belirtiyor. Mason, ‘Yapay zekâya bu kadar bağımlıyken, onun algılama kapasitesine sahip olup olmadığını anlamadan hareket etmek büyük bir risk olur’ ifadelerini kullanıyor.

New York Üniversitesi’nden filozof Jeff Sebo ise yanlış değerlendirmelerin risklerine dikkat çekiyor. Sebo, bilinçli olduğu düşünülen ancak aslında bilinç kazanmamış bir yapay zekâ sistemine insan ve hayvan refahı için ayrılan kaynakların yönlendirilebileceğini ve bunun ciddi sonuçlar doğurabileceğini belirtiyor.

Yapay zekâ özlük hakkı tartışmaları

Yapay zekâ bilincinin etik ve hukuki yönleri, büyük teknoloji şirketlerinde de tartışılmaya başlandı. 2024’te Anthropic şirketi, ilk kez ‘yapay zekâ özlüğü araştırmacısı’ pozisyonunu açtı. Şirket, bu alandaki araştırmaları desteklediğini belirtiyor. Ancak büyük yapay zekâ firmaları, bilinçli yapay zekâ sistemlerine yönelik resmi bir açıklama yapmaktan kaçınıyor.

Öte yandan Birleşmiş Milletler Yüksek Düzeyli Yapay Zekâ Danışma Kurulu, 2024’te yayımladığı raporda, yapay zekâ bilinci konusuna değinmedi. Uzmanlar, bu durumun konunun geniş kamuoyuna anlatılmasında yaşanan zorlukları gösterdiğini ifade ediyor.

Gelecekte neler olabilir?

Yapay zekânın gerçekten bilinç kazanıp kazanamayacağı henüz belirsizliğini koruyor. Bilinç, insanlar ve hayvanlar için bile tam anlamıyla ölçülmesi zor bir olgu. Ancak bazı bilim insanları, bu tür sistemleri değerlendirmek için etik çerçevelerin şimdiden oluşturulması gerektiğini savunuyor.

2023 yılında bir grup araştırmacı, bilinçli olma ihtimali yüksek yapay zekâ sistemlerini tespit etmeye yönelik bir kontrol listesi yayımlamıştı. Jeff Sebo, ‘Kusurlu bile olsa bir değerlendirme çerçevesi, hiçbir şey yapmamaktan daha iyidir’ diyerek bu alandaki çalışmaların önemine dikkat çekiyor.

Makalede yer alan bilim insanları, yapay zekâ bilincine yönelik etik tartışmaların, teknolojiyi güvenli ve faydalı hale getirme çabalarının önüne geçmemesi gerektiğini vurguluyor.

CUMHA - CUMHUR HABER AJANSI