22:12:06

‘Yapay Zekânın Vaftiz Babası’ İnsanlığın Geleceği İçin Meşum Bir Uyarıda Bulundu

“Yapay zekânın vaftiz babası" olarak bilinen bilgisayar bilimcisi Geoffrey Hinton‘a göre, yapay zekâ sistemleri bir gün insanları geçerek dünyadaki en zeki tür haline gelebilir. Hinton birkaç yıl boyunca Google‘da çalıştı ancak bu ilkbaharda yapay zekânın potansiyel faydaları ve riskleri hakkında açıkça konuşabilmek için ayrıldığını duyurdu. CBS News‘in 60 Minutes programından Scott Pelley ile kısa bir süre önce yaptığı röportajda her iki konuyu da tartıştı…

Hinton Pelley‘e yapay zekânın sağlık hizmetleri ve ilaç geliştirme konusunda “büyük faydalar" sağlayabileceğini söyledi. Ancak Hinton‘u endişelendiren yapay zekâ ile ilgili birkaç risk de var. Hinton ilk olarak, yapay zekâ sistemlerinin bu karmaşık görevleri üstlenebilmesi halinde bu sektörlerde ortadan kalkabilecek işleri tanımladı.

Hinton ayrıca “sahte haberlerin" YZ aracılığıyla yayılma ve YZ’nin kanun uygulama prosedürlerinde ve istihdam süreçlerinde yeni önyargılar yaratma potansiyeli konusunda uyardı. Hinton ayrıca, YZ sistemlerinin kendi bilgisayar kodlarını oluşturup uygulayabileceğine dair “ciddi bir endişe" olduğunu, bunun da teoride kendi kendilerini güncelleyebilecekleri anlamına geldiğini söyledi.

YZ’nin potansiyeli hakkında hâlâ bilinmeyen çok şey var. Ancak dünyanın dört bir yanındaki insanlar OpenAI‘nin ChatGPT‘si gibi popüler sistemleri test etmeye başladılar bile; bu sistem yakın zamanda kullanıcıların doğrudan araca yükledikleri görsel ve işitsel verilere yanıt vermesini sağlayan yeni özellikleri tanıttı. Kullanıcılar denklemleri çözmek, trafik işaretlerini deşifre etmek ve tek bir ekran görüntüsüne dayanarak filmleri tanımlamak için bu aracı kullandılar.

Bu araçların verilere yanıt verme şekli ve hızı, insanlardan daha verimli veya kapsamlı bir şekilde öğrenebileceklerini gösteriyor. Hinton röportajda, şu anda çalışan en gelişmiş sohbet robotlarının bir insan beyninin sahip olduğu her 100 bağlantıya karşılık yaklaşık bir bağlantıya sahip olduğunu, ancak sohbet robotlarının “sizden çok daha fazlasını" bildiğini söyledi.

Hinton, yapay zekâ gelişimini teknolojideki diğer ilerlemelerle karşılaştırdı ve bu ilerlemelerin ciddi bir yankı uyandırmadan erken başarısız olma becerisinden yararlandığını söyledi. Ancak yapay zekâ söz konusu olduğunda, “bu şeylerde yanlış yapmayı göze alamayız" dedi. Pelley açıklama istediğinde Hinton bunun nedeninin sistemlerin “yönetimi ele geçirmesi" olduğunu söyledi ve daha sonra bunun bir garanti olmadığını, ancak insanların YZ sistemlerinin bunu yapmak istemesini engellemenin bir yolunu bulmaları halinde önlenebilecek bir “olasılık" olduğunu ekledi.

Bu daha büyük YZ sorularının yanıtlanmasının ne kadar zaman alacağı belli değil, ancak Hinton özellikle ChatGPT‘nin bu on yılın sonundan önce “bizden daha iyi akıl yürütebileceğini" tahmin ediyor. YZ’nin askeri kullanımı da daha spesifik bir zaman çizelgesine sahip; emekli ABD’li General Mark Milley geçtiğimiz günlerde 60 Minutes‘e yaptığı açıklamada “sofistike" orduların yüzde 20 veya daha fazlasının “belki 15 yıl içinde" robotik hale gelebileceğini söyledi. Milley, ABD Savunma Bakanlığı‘nın şu anda tüm askeri kararlarda bir insanın yer almasını şart koştuğunu da sözlerine ekledi.

Yapay zekâ sistemlerinin silahlı kuvvetler tarafından kullanılması pek çok kişi için endişe verici bir durum. Bu yılın başlarında Uluslararası Kızıl Haç Komitesi (ICRC) dünya liderlerine otomatik silah sistemleri için yeni bir dizi uluslararası kural oluşturmaları çağrısında bulundu. Komite, bu sistemlerin hem sahadaki siviller hem de onları kullanan birlikler için risk oluşturduğunu söyledi.

Hinton yapay zekâ gelişimi konusundaki endişelerini dile getirirken yalnız değil. Bu yılın başlarında, birçok teknoloji lideri, “toplum ve insanlık için derin riskler oluşturabileceği" belirtilen bazı gelişmiş YZ geliştirme çabalarının geçici olarak durdurulması çağrısında bulunan açık bir mektuba imza attı.

Mektupta, “Güçlü YZ sistemleri ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir" denildi.

Mektubun yayımlanmasından birkaç ay sonra OpenAI CEO’su Sam Altman, ABD Kongresi önünde ifade verirken YZ düzenlemesini savundu. Altman, YZ’nin “insanların hayatlarını iyileştirdiğini" söylese de, ifade vermeden önce hazırladığı konuşmada şirketin “teknolojinin her yararlı kullanımını, potansiyel kötüye kullanımını veya başarısızlığını tahmin edemeyeceğini" söyledi.

Altman, “OpenAI, YZ’nin düzenlenmesinin gerekli olduğuna inanıyor ve insanların teknolojinin faydalarına erişebilmelerini sağlarken güvenliği teşvik etmeyi dengeleyen düzenlemeyi nasıl kolaylaştıracaklarını belirlerken politika yapıcılara yardımcı olmaya istekliyiz" dedi.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…