06:00.00

Sam Altman Yapay Zekânın ‘İnsanüstü İkna Kabiliyetine Sahip Olabileceği’ Konusunda Uyarıyor

İnsanlık, yapay genel zekâ (AGI) ya da insanların bilişsel işlevleriyle eşleşen bir yapay zekâ inşa etmekten muhtemelen hâlâ çok uzakta – tabii eğer bunu gerçekten yapabilirsek…

Ancak böyle bir gelecek gerçekleşsin ya da gerçekleşmesin, OpenAI CEO’su Sam Altman‘ın bir uyarısı var: YZ’nin zayıf insan zihinlerimizin kontrolünü ele geçirmesi için AGI düzeyinde akıllı olması gerekmiyor.

Altman Salı günü attığı tweet’te “YZ’nin genel zekâda insanüstü olmadan çok önce insanüstü ikna kabiliyetine sahip olmasını bekliyorum" dedi ve ekledi: “Bu da bazı çok tuhaf sonuçlara yol açabilir."

Altman bu sonuçların neler olabileceği konusunda ayrıntılı bilgi vermese de, bu uzak bir tahmin değil. OpenAI‘nin ChatGPT‘si gibi kullanıcıya dönük yapay zekâlı sohbet robotları, iyi birer konuşmacı olmak üzere tasarlandı ve bir konuda tamamen yanlış olsalar bile ürkütücü bir şekilde ikna edici görünme yeteneğine sahip oldular.

Aynı zamanda, insanların çeşitli chatbot’larla duygusal bağlar kurmaya başladıkları ve bu sayede onları çok daha inandırıcı hale getirdikleri de bir gerçek.

Gerçekten de, yapay zekâ botları bazı oldukça sıkıntılı olaylarda destekleyici bir rol oynadı. Örnek olarak, o zamanlar 19 yaşında olan bir insan, YZ partnerine o kadar aşık oldu ki, onun tarafından merhum Kraliçe Elizabeth‘e suikast girişiminde bulunmaya ikna edildi.

Hoşnutsuz insanlar on yıllardır topluluk ve onay arayışıyla internetin en karanlık köşelerine akın ediyor ve kötü bir aktörün bir YZ sohbet robotu aracılığıyla bu daha savunmasız insanlardan birini hedef alabileceği ve onları bazı kötü şeyler yapmaya ikna edebileceği bir senaryoyu hayal etmek zor değil. Her ne kadar hoşnutsuz bireyler bariz bir hedef olsa da, ortalama bir internet kullanıcısının dijital dolandırıcılıklara ve yanlış bilgilendirmelere karşı ne kadar hassas olduğunu da belirtmek gerekir. İşin içine bir de yapay zekâ girince, kötü niyetli kişiler kitleleri kandırmak için inanılmaz derecede ikna edici bir araca sahip oluyor.

Ancak endişelenmemiz gereken sadece açık istismar vakaları değil. Teknoloji çoğu insanın günlük yaşamına derinlemesine işlemiş durumda ve bir insanla bir bot arasında duygusal ya da romantik bir bağ olmasa bile, ona zaten çok fazla güveniyoruz. Bu da muhtemelen bizi aynı güveni YZ sistemlerine de duymaya hazırlıyor – bu da bir YZ halüsinasyonunu potansiyel olarak çok daha ciddi bir soruna dönüştürebilecek bir gerçeklik.

YZ insanları bazı kötü davranışlara ya da yıkıcı düşünce biçimlerine yönlendirmek için kullanılabilir mi? Bu ihtimal dışı değil. Ancak YZ sistemleri henüz tam olarak bir failliğe sahip olmadığından, muhtemelen YZ’lerin kendileri hakkında daha az endişelenmemiz ve onları kötüye kullanmaya çalışanlara daha fazla odaklanmamız daha iyi olacaktır.

İlginçtir ki, OpenAI‘nin önde gelen konumu ve sahip olduğu etki göz önüne alındığında, bu belirsiz hayal edilen “garip sonuçları" hafifletme konusunda en yetenekli olabilecek insanlardan biri Altman‘ın kendisidir.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…