22:06:44

Bu Web Sitesi Google’ın Yapay Zekâsının Fotoğraflarınızdaki Verilerin Ne Kadarını Toplayabildiğini Gösteriyor

Eski bir Google mühendisi tarafından kurulan bir fotoğraf paylaşım girişimi, Google‘ın teknolojisini kendisine karşı kullanmanın akıllıca bir yolunu buldu. Yazılım mühendisi Vishnu Mohandas, teknoloji devinin ABD ordusunun drone görüntülerini incelemek için yapay zekâ geliştirmesine kısa bir süre yardım ettiğini öğrendiğinde Google’dan birden fazla şekilde ayrılmaya karar verdi…

2020 yılında Google Asistan üzerinde çalıştığı işinden ayrıldı ve ayrıca tüm görüntülerini Google Fotoğraflar‘a yedeklemeyi bıraktı. İçeriğinin, özellikle Pentagon projesine bağlı olmasalar bile, yapay zekâ sistemlerini eğitmek için kullanılabileceğinden korkuyordu. Mohandas, “Bunun mümkün kılacağı gelecekteki sonuçların hiçbirini kontrol etmiyorum,” diye düşündü. “Öyleyse şimdi daha sorumlu olmam gerekmez mi?”

Kendi kendine programlamayı öğrenen ve Bengaluru, Hindistan’da yaşayan Mohandas, fotoğrafların saklanması ve paylaşılması için açık kaynaklı ve uçtan uca şifrelenmiş alternatif bir hizmet geliştirmek istediğine karar verdi. “Daha özel, sağlıklı ve güvenilir” bir şey olduğunu söylüyor. Tasarladığı ücretli hizmet Ente kârlı ve 100.000’den fazla kullanıcısı olduğunu söylüyor ki bunların çoğu zaten gizlilik takıntılı kalabalığın bir parçası. Ancak Mohandas, sunduğu tüm kolaylıklara rağmen neden Google Fotoğraflar‘a güvenmeyi yeniden düşünmeleri gerektiğini daha geniş kitlelere anlatmakta zorlandı.

Sonra Mayıs ayında bir hafta sonu, Ente‘deki bir stajyerin aklına bir fikir geldi: İnsanlara Google‘ın bazı yapay zekâ modellerinin görüntüleri inceleyerek neler öğrenebileceğini göstermek. Ente geçtiğimiz ay, Google‘ın teknolojisini kendisine karşı kullanmak üzere tasarlanmış bir web sitesi ve pazarlama çalışması olan https://Theyseeyourphotos.com‘u hayata geçirdi. İnsanlar web sitesine istedikleri herhangi bir fotoğrafı yükleyebiliyor ve bu fotoğraf daha sonra Google Cloud bilgisayarla görme programına gönderiliyor ve bu program fotoğrafın şaşırtıcı derecede kapsamlı üç paragraflık bir açıklamasını yazıyor. (Ente, yapay zekâ modelinden yüklenen görüntülerdeki küçük ayrıntıları belgelemesini istiyor).

Mohandas‘ın yüklemeyi denediği ilk fotoğraflardan biri, Endonezya’daki bir tapınağın önünde eşi ve kızıyla çektiği bir selfie’ydi. Google‘ın analizi oldukça kapsamlı olmuş, hatta eşinin taktığı Casio F-91W saat modelini bile belgelemiş. Ama sonra, diyor Mohandas, yapay zekâ garip bir şey yaptı: Casio F-91W saatlerin genellikle İslamcı aşırılık yanlılarıyla ilişkilendirildiğini fark etti. Mohandas, “Biraz daha sağlıklı ama yine de ürkütücü hale getirmek için yönlendirmeleri değiştirmemiz gerekti” diyor. Ente modelden kısa, objektif çıktılar üretmesini istemeye başladı -karanlık bir şey değil.

Theyseeyourphotos‘a yüklenen aynı aile fotoğrafı artık tapınağın adını ve onu çevreleyen “parçalı bulutlu gökyüzü ve gür yeşillikleri” içeren daha genel bir sonuç veriyor. Ancak yapay zekâ hâlâ Mohandas ve ailesi hakkında yüzlerinin “ortak memnuniyet” ifade ettiği ve “ebeveynlerin muhtemelen Güney Asya kökenli, orta sınıf” olduğu gibi bir dizi varsayımda bulunuyor. Kıyafetlerini (“gezmeye uygun”) değerlendiriyor ve “kadının saatinin yaklaşık öğleden sonra 2 olarak gösterdiğini, bunun da görsel meta verileriyle örtüştüğünü” belirtiyor.

Google Fotoğraflar‘a yapılan yüklemelerin yalnızca, fotoğraf öznelerinin yaşını ve konumunu analiz edenler gibi, insanların resim kitaplıklarını yönetmelerine yardımcı olan üretken yapay zekâ modellerini eğitmek için kullanıldığını belirten sayfaları desteklemeye yönlendiren şirket, Google Fotoğraflar‘da depolanan içeriği üçüncü taraflara satmadığını veya reklam amacıyla kullanmadığını söylüyor. Kullanıcılar Fotoğraflar’daki bazı analiz özelliklerini kapatabiliyor ancak veriler uçtan uca şifrelenmediği için Google‘ın görsellerine tamamen erişmesini engelleyemiyorlar.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…