23:59:08

ChatGPT üreticisi OpenAI, yapay zekâ düzenlemesi çağrısında bulunarak ‘varoluşsal risk’ uyarısı yaptı…

ChatGPT’nin arkasındaki OpenAI’nin liderleri, dünyanın nükleer gözlemcisine eşdeğer bir yapay zekâ düzenlemesi çağrısında bulundu. Viral sohbet robotu ChatGPT’nin yaratıcısı OpenAI’nin liderleri, “süper zekâ" ve yapay zekâ sistemlerinin düzenlenmesi çağrısında bulunarak, dünyanın nükleer gözlemcisine eşdeğer bir sistemin teknolojinin yarattığı “varoluşsal riski" azaltmaya yardımcı olacağını öne sürüyorlar.

Şirketin kurucu ortakları Greg Brockman ve Ilya Sutskever‘in yanı sıra CEO Sam Altman, bu hafta şirketin web sitesinde yayınlanan bir açıklamada, “sistemleri denetlemek, denetimler talep etmek, güvenlik standartlarına uygunluğu test etmek (ve) yayılma derecelerine ve güvenlik düzeylerine kısıtlamalar getirmek" için uluslararası bir düzenleyicinin eninde sonunda gerekli olacağını savundu.

“Varoluşsal risk olasılığı" olan bir başka teknoloji örneği olarak nükleer enerji ile karşılaştırma yaparak, dünyanın nükleer gözlemcisi olan Uluslararası Atom Enerjisi Ajansı‘na (IAEA) benzer bir otoriteye duyulan ihtiyacı dile getirdiler.

OpenAI ekibi, önümüzdeki on yıl içinde, “YZ sistemlerinin çoğu alanda uzman beceri düzeyini aşacağı ve günümüzün en büyük şirketlerinden biri kadar üretken faaliyet yürüteceği düşünülebilir" diye yazdı. “Hem potansiyel artıları hem de eksileri açısından süper zekâ, insanlığın geçmişte mücadele etmek zorunda kaldığı diğer teknolojilerden daha güçlü olacaktır. Çok daha müreffeh bir geleceğe sahip olabiliriz; ancak oraya ulaşmak için riski yönetmek zorundayız."

Bu açıklama, Altman‘ın geçen hafta Kongre’de yaptığı ve ABD merkezli şirketin CEO’sunun da ayrı bir düzenleyici kurumun gerekliliğine tanıklık ettiği yorumları yineledi.

Eleştirmenler, teknoloji endüstrisinde kısıtlama olmaksızın gelişmeye devam ederek kâr elde eden liderlerin düzenleme çağrılarına güvenilmemesi konusunda uyarıda bulundular. Bazıları, OpenAI‘nin iş kararlarının bu güvenlik uyarılarıyla çeliştiğini söylüyor – çünkü hızlı bir şekilde piyasaya sürülmeleri bir yapay zekâ silahlanma yarışı yarattı ve Google‘ın ana şirketi Alphabet gibi şirketlere, politika yapıcılar hala risklerle boğuşurken ürünleri piyasaya sürmeleri için baskı yaptı.

Örneğin, Washington’daki çok az sayıda milletvekili gelişen teknoloji ya da yapay zekâ konusunda derin bir anlayışa sahip ve yapay zekâ şirketleri, destekçileri ve eleştirmenleri teknoloji politikaları konusundaki tartışmaları etkilemeyi umarken, yoğun bir şekilde lobi faaliyetlerinde bulunuyor.

Bazıları da ABD’nin başta Çin olmak üzere rakipleriyle teknoloji konusunda rekabet etme kabiliyetini engelleme riskine karşı uyarıda bulundu.

OpenAI liderleri yayımladıkları notta gelişimin durdurulmasına karşı uyarıda bulunarak, “süper zekânın yaratılmasını durdurmak mantıksız bir şekilde riskli ve zor olacaktır. Çünkü avantajları çok büyük, onu inşa etmenin maliyeti her yıl azalıyor ve onu inşa eden aktörlerin sayısı hızla artıyor."

Geçen hafta kongrede verdiği ilk ifadede Altman, yapay zekânın “dünyaya nasıl önemli zararlar verebileceği" konusunda uyarılarda bulunurken, şirketinin teknolojiyi yaygınlaştırmaya devam edeceğini iddia etti.

Altman‘ın kanun yapıcılarla birlikte çalışmaya istekli olduğu mesajı Kongre’de nispeten sıcak karşılandı, zira ABD dahil ülkeler gizlilik, güvenlik, işten çıkarmalar ve yanlış bilgilendirmelerle ilgili endişeleri açığa çıkaran bir teknolojiyle başa çıkarken inovasyonu desteklemekle uğraşmaları gerektiğini kabul ediyor.

Oturumdaki tanıklardan biri olan New York Üniversitesi emekli profesörü Gary Marcus, söz konusu paranın “akıllara durgunluk veren" meblağlara ulaştığının altını çizdi ve OpenAI‘yi yatırımcısı Microsoft‘a “borçlu" olarak tanımladı. Şirketin, finansal baskı kısıtlamaları olmaksızın yapay zekâyı “insanlığa bir bütün olarak fayda sağlayacak" şekilde ilerletme misyonundan sapması olarak tanımladığı durumu eleştirdi.

Metin, görüntü ya da ses oluşturan ChatGPT ve jeneratif yapay zekâ araçlarının yaygınlaşması, kullanıcıların gözlerini kamaştırdı ve aynı zamanda düzenleme tartışmalarına aciliyet kazandırdı.

Cumartesi günü yapılan G-7 zirvesinde, dünyanın en büyük ekonomilerinin liderleri, yapay zekâ gelişmeleri için uluslararası standartların bir öncelik olduğunu açıkça belirttiler, ancak risklerin nasıl ele alınacağı konusunda henüz önemli sonuçlar üretmediler.

Biden yönetimi yapay zekâyı önemli bir öncelik haline getirdiğini söylese de, Amerika Birleşik Devletleri şimdiye kadar özellikle Avrupa’daki diğer ülkelerden daha yavaş hareket etti. Washington’daki politika yapıcıların yıllardır kapsamlı teknoloji yasaları çıkarmamış olması, YZ endüstrisi için ne kadar hızlı ve etkili düzenlemeler geliştirebilecekleri konusunda soru işaretleri yaratıyor.

ChatGPT yapımcıları, yakın vadede, “süper zekânın geliştirilmesinin" güvenli ve “bu sistemlerin toplumla sorunsuz bir şekilde bütünleşmesine" izin vermesini sağlamak için YZ araştırmaları üzerinde çalışan şirketler arasında “bir dereceye kadar koordinasyon" çağrısında bulundu. Şirketler, örneğin, “sınırdaki YZ kapasitesindeki büyüme oranının yılda belirli bir oranla sınırlı olduğu konusunda … toplu olarak anlaşabilirler" dediler.

“Dünyanın dört bir yanındaki insanların YZ sistemleri için sınırlara ve varsayılanlara demokratik olarak karar vermesi gerektiğine inanıyoruz" diye eklerken, “böyle bir mekanizmayı nasıl tasarlayacağımızı henüz bilmiyoruz" itirafında bulundular.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…