00:55:39

Microsoft Mühendi̇si̇ Taylor Swift’i̇n Çiplak Fotoğraflariyla Bağlantili Dall-e Sorunu Hakkinda Uyardığı İçi̇n Susturulduğunu Söyledi̇

Microsoft için işler gerginleşiyor. İlk olarak, şirketin yapay zekâ programlarından biri, Taylor Swift‘in sosyal medyayı dolduran deepfake pornografik görüntüleriyle suçlandı ve durum o kadar ciddiydi ki Beyaz Saray bile bir açıklama yapmak zorunda kaldı.

Microsoft yazılım mühendisi Shane Jones, OpenAI‘nin DALL-E programında Swift‘i hedef alan kötü niyetli görüntülerin oluşturulmasında kullanılabilecek güvenlik açıkları bulduğunu iddia etti. Ancak, bu konuda sessiz kalması istendi.

Jones, güvenlik sorununu Aralık ayı başında keşfettiğini ve Microsoft‘a bildirdiğini, ardından Microsoft‘un kendisine, yakın bir ortaklığı olan OpenAI‘yi bilgilendirmesi talimatını verdiğini söyledi.

Haber kaynağına göre, OpenAI‘ye konuyu bildirdikten sonra Jones hiçbir geri dönüş alamadı. Daha sonra bir LinkedIn gönderisinde güvenlik açığı hakkında bilgi verdi ve aynı zamanda OpenAI‘yi DALL-E‘yi kapatmaya çağırdı, çünkü programın kamu güvenliği riski oluşturduğunu düşünüyordu.

Jones, Microsoft‘a gönderdiği bildiriden sonra Microsoft‘un hukuk ekibinin gönderiyi silmesi talimatı verdiğini söylüyor.

OpenAI ve Microsoft‘un sessiz ve etkisiz tutumundan memnun olmayan Jones, Washington eyaletinin Kongre’deki temsilcilerine ve eyalet Başsavcısı Bob Ferguson‘a bir mektup göndererek yapay zekâdaki güvenlik sorunları konusunda uyarılarda bulundu.

Jones mektubunda, kısmen DALL-E teknolojisi üzerine inşa edilen Microsoft‘un Designer‘ında oluşturulan Swift görüntülerine atıfta bulundu. “DALL-E 3’teki ve DALL-E 3 kullanan Microsoft Designer gibi ürünlerdeki güvenlik açıkları, insanların zararlı görüntüler oluştururken yapay zekâyı kötüye kullanmalarını kolaylaştırıyor. Microsoft bu güvenlik açıklarının ve kötüye kullanım potansiyelinin farkındaydı" diye yazdı.

OpenAI, basına yaptığı açıklamada Jones‘un işaret ettiği güvenlik sorununun “güvenlik sistemlerini atlamadığını" belirtti.

Buna ek olarak, Microsoft, korkunç Swift deepfake’lerine yol açan tüm güvenlik açıklarının kapatıldığını söyledi.

Bu yapay zekâ araçları yaygın bir şekilde kullanılmaya başlandığından beri, bilgisayar korsanları sık sık bu araçları jailbreak ederek OpenAI ürünleri dahil olmak üzere güvenlik özelliklerini atlamışlardır; bu durum, bu teknolojinin hâlâ suiistimallere karşı ne kadar savunmasız olduğunu göstermektedir.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…