22:47:55

Bazı teknoloji öncüleri “kontrolden çıkmış" yapay zekâ gelişimine altı ay ara verilmesi çağrısında bulundu…

Musk kaybettiği pastanın peşinde mi?..

Eylem çağrısı, güçlü yeni üretici yapay zekâ sistemlerinin potansiyel risklerine ilişkin artan endişelerinin ardından geldi. Bir dizi teknoloji öncüsü, gelişmiş yapay zekâ (YZ) gelişiminin durdurulması çağrısında bulunan açık bir mektubu imzaladığı iddia ediliyor. Future of Life Institute (Yaşamın Geleceği Enstitüsü) açık mektubuna aralarında Elon Musk, Turing Ödülü sahibi Yoshua Bengio ve Steve Wozniak’ın da bulunduğu 1.100’den fazla kişi imza attığı söyleniyor – ne derece doğru olduğu tartışılır.

Mektupta “GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimine" en az altı ay süreyle “derhal ara verilmesi" çağrısında bulunuluyor.

Enstitüye göre bu eylem çağrısı, şu anda Microsoft ve Google gibi büyük endüstri oyuncuları tarafından kullanıma sunulan üretken YZ teknolojilerinin hızla ivme kazanmasına doğrudan bir yanıt olarak ortaya çıktı.

Mektupta, bu inovasyon dalgası devam ederken, toplum için önemli riskler oluşturan jeneratif YZ gelişimini denetlemek için şu anda yürürlükte olan kurumsal ve düzenleyici güvencelerin belirgin bir eksikliği olduğu savunuldu.

Mektupta, “Geniş çapta onaylanan Asilomar YZ İlkelerinde belirtildiği gibi, gelişmiş YZ dünyadaki yaşam tarihinde derin bir değişimi temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir" denildi.

“Ne yazık ki, son aylarda YZ laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor."

Enstitü, geliştirmeye yönelik önerilen altı aylık duraklamanın “kamuya açık ve doğrulanabilir" olması ve “gelişmiş YZ tasarımı için bir dizi ortak güvenlik protokolü" geliştirmek ve uygulamak için teknoloji endüstrisindeki “kilit aktörler" arasında işbirliğini içermesi gerektiğini söyledi.

Buna ek olarak, uygulamaya konulduktan sonra, güvenlik önlemleri “bağımsız dış uzmanlar tarafından titizlikle denetlenmeli ve gözetilmelidir“.

“Bu protokoller, kendilerine bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır. Bu, genel olarak YZ gelişiminde bir duraklama anlamına gelmez, sadece ortaya çıkan yeteneklere sahip daha büyük öngörülemez kara kutu modellerine yönelik tehlikeli yarıştan geri adım atılması anlamına gelir."

Sorumlu YZ geliştirme
Bu açık mektubun yayımlanması, sorumlu ve etik yapay zekâ geliştirmenin artan önemini vurgulayan bir dizi sektör paydaşından gelen çağrıları takip etmektedir.

Geçtiğimiz hafta Mozilla, geliştiricileri, araştırmacıları ve politika yapıcıları bir araya getirerek ‘güvenilir yapay zekâ‘ geliştirilmesini teşvik etmeyi amaçlayan Mozilla AI adlı yeni bir açık kaynaklı yapay zekâ girişiminin başlatıldığını duyurdu.

Mozilla İcra Kurulu Başkanı Mark Surman IT Pro‘ya verdiği demeçte, kuruluşun bu girişimi, her ikisi de üretken yapay zekâya büyük yatırımlar yapan Microsoft ve Google‘ın hakimiyetine karşı bir denge unsuru olarak konumlandırmayı umduğunu söyledi.

Surman, son aylarda jeneratif YZ ürünlerinin hızlanmasının hem işletmeler hem de toplum için ciddi riskler oluşturduğunu, geliştiricilerin genellikle bu teknolojilerin bireyler ve kamusal söylem üzerinde yaratabileceği potansiyel olumsuz etkileri dikkate almadıklarını öne sürdü.

Açık mektup, endüstri eyleminin yanı sıra, YZ geliştiricilerine “sağlam YZ yönetişim sistemlerinin geliştirilmesini önemli ölçüde hızlandırmak" için politika yapıcılarla birlikte çalışma çağrısında bulundu.

Bu yönetişim sistemleri “en azından" şunları içermelidir:

* YZ’ye adanmış yeni ve yetenekli düzenleyici kurumlar
* Yüksek yetenekli yapay zekâ sistemlerinin ve büyük hesaplama kapasitesi havuzlarının gözetimi ve takibi
* Gerçeği sentetikten ayırt etmeye ve model sızıntılarını izlemeye yardımcı olmak için kanıt ve filigran sistemleri
* Sağlam bir denetim ve sertifikasyon ekosistemi
* YZ kaynaklı zarar için sorumluluk
* Teknik YZ güvenlik araştırmaları için sağlam kamu finansmanı
* Yapay zekânın neden olacağı dramatik ekonomik ve siyasi aksaklıklarla – özellikle demokraside – başa çıkmak için iyi kaynaklara sahip kurumlar

Son aylarda, YZ düzenlemesi konusu defalarca tartışıldı. Birleşik Krallık’ta politika yapıcılar, inovasyon ve büyümeyi mümkün kılarken sorumluluğa odaklanan üretken YZ’ye dengeli bir yaklaşımın nasıl oluşturulacağını değerlendiriyor.

Birleşik Krallık hükûmetinin bugün yayımlanan YZ beyaz kitabı, inovasyon yanlısı bir duruş sergilerken YZ’nin sorumlu bir şekilde geliştirilmesine rehberlik etme planlarını özetledi.

Hükûmet, inovasyonu engelleyebilecek “ağır mevzuatı" uygulamaktan kaçınacağını, bunun yerine “yapay zekâyı düzenlemek için uyarlanabilir bir yaklaşım" tercih edeceğini söyledi.

Hükûmet yaptığı açıklamada, “Bu yaklaşım, Birleşik Krallık’ın kurallarının, bu hızlı hareket eden teknoloji geliştikçe uyum sağlayabileceği anlamına gelecek ve işletmeleri daha güçlü ekonomik büyüme, daha iyi işler ve insanların yaşamlarını kökten iyileştiren cesur yeni keşifler sağlamak için yapay zekâ teknolojisini kullanmaktan alıkoymadan kamu için koruma sağlayacaktır" dedi.

İmzacılar olaya karıştıklarını reddediyor

Açık mektubun yayımlanması imzacılar arasında tartışmalara yol açtı ve bazıları isimlerinin rızaları olmadan eklendiğini açıkladı.

Meta‘nın baş yapay zekâ bilimcisi Yann LeCun, bugün attığı bir tweet ile açık mektubu imzaladığı iddialarını yalanlarken, diğerleri de aynı şeyi yaptı.

“Hayır. Bu mektubu ben imzalamadım," dedi. “Önermesine katılmıyorum."

Semafor muhabiri Louise Matsakis‘in mektuba ilişkin analizine göre, mektubun yayımlanmasından bu yana diğer imzacıların isimleri “kaybolmaya" başladı. Ancak aralarında Elon Musk, Steve Wozniak ve Yoshua Bengio‘nun da bulunduğu önde gelen isimlerin hâlâ mektupta yer alması kafa karışıklığına yol açıyor.

Mektubu yayımlayan Future of Life Institute kurucusu tabii ki Elon Musk. Musk örneğin, OpenAI‘nin planlarının daha iyi anlaşılması kaygısıyla OpenAI‘nin Twitter veritabanına erişimini durdurmuştu. Aslında 2015 yılında OpenAI‘yi kendi kurmuş, 2018’de ise ayrılmıştı – öngörü noksanlığı olabilir. Yapılan çağrıların Microsoft ve Google‘ın bu konuda öne çıkmasını durdurmak için bir hamle olduğunu düşünmek çokta hayalperestlik sayılmamalı. Hele ki 44 milyar dolara almak zorunda kaldığı Twitter‘ın bugün 20 milyar seviyesine – kendi beyanı – gerilemesinden sonra…

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…