06:38:19

Kullanıcı, ChatGPT’nin Kullanıcılarının Özel Konuşmalarındaki Şifreleri Sızdırdığını Söylüyor

Bir kullanıcı OpenAI ChatGPT‘nin eczane kullanıcı biletleri ve çok sayıda web sitesi için tanımlayıcı giriş kimlik bilgilerini gösteren kod parçaları da dahil olmak üzere özel ve ilgisiz kullanıcı konuşmalarını ortaya çıkardığını iddia ediyor. Chase Whiteside adlı kullanıcı ChatGPT‘yi “bir paletteki renkler için zekice isimler" bulmak için kullandıklarını ve adından o ekrandan uzaklaştıklarını açıkladı. Yeniden açtıklarında, sayfanın sol tarafında başlangıçta olduğundan daha fazla konuşma vardı ve bunların hiçbirini kendileri başlatmamıştı.

Yayımlanmamış araştırma makaleleri, sunumlar ve PHP betiklerinin isimleri de sızdırıldı. Kullanıcı, yayımlanmamış araştırma makalelerini ve diğer özel verileri adlandıran sohbetleri bulmasıyla şok oldu.

OpenAI yetkilileri ise, kullanıcının bildirdiği ChatGPT geçmişlerinin, ChatGPT hesabının ele geçirilmesinden kaynaklandığını söylüyor. Bir Open AI temsilcisi, yetkisiz girişlerin Sri Lanka’dan geldiğini söyledi. Kullanıcı hesabına Brooklyn, New York’tan giriş yaptığını söyledi.

Temsilci, “Keşfettiklerimize göre, bunun bir hesap ele geçirme olduğunu düşünüyoruz, çünkü birisinin harici bir topluluğun veya proxy sunucusunun ücretsiz erişim dağıtmak için kullandığı bir kimlik ‘havuzuna’ katkıda bulunduğunu gördüğümüz etkinlikle tutarlı olduğunu düşünüyoruz" diye yazdı. “Soruşturma kapsamında son zamanlarda Sri Lanka’dan konuşmalar oluşturulduğu gözlemlenmiştir. Bu konuşmalar Sri Lanka’dan yapılan başarılı girişlerle aynı zaman diliminde gerçekleşmiştir."

Chase Whiteside adlı kullanıcı o zamandan beri şifresini değiştirmiş, ancak hesabının ele geçirildiğinden şüpheleniyor. Büyük ve küçük harfler ve özel karakterler içeren dokuz karakterli bir şifre kullandığını söyledi. Bu şifreyi Microsoft hesabı dışında başka bir yerde kullanmadığını söyledi. Diğer kişilere ait sohbet geçmişlerinin Pazartesi sabahı hesabını kullanmaya kısa bir ara verdiği sırada bir anda ortaya çıktığını söyledi.

OpenAI‘nin açıklaması muhtemelen ChatGPT‘nin sohbet geçmişlerini ilgisiz kullanıcılara sızdırdığı yönündeki ilk şüphenin yanlış olduğu anlamına geliyor. Bununla birlikte, sitenin Whiteside gibi kullanıcıların hesaplarını 2FA kullanarak korumaları veya mevcut ve son girişlerin IP konumu gibi ayrıntıları takip etmeleri için hiçbir mekanizma sağlamadığının altını çiziyor. Bu korumalar yıllardır çoğu büyük platformda standart olarak kullanılıyor.

Bu olay ve benzerleri, ChatGPT ve diğer yapay zekâ hizmetlerine yapılan sorgulardan mümkün olduğunca kişisel ayrıntıların çıkarılmasının akıllıca olduğunun altını çiziyor. Geçtiğimiz Mart ayında ChatGPT‘nin yapımcısı OpenAI, sitenin bir aktif kullanıcının sohbet geçmişindeki başlıkları ilgisiz kullanıcılara göstermesine neden olan bir hatanın ardından AI sohbet robotunu çevrimdışı duruma getirmişti.

Kasım ayında araştırmacılar, ChatGPT‘yi e-posta adreslerini, telefon ve faks numaralarını, fiziksel adresleri ve ChatGPT büyük dil modelini eğitmek için kullanılan materyalde yer alan diğer özel verileri ifşa etmeye yönlendirmek için sorguları nasıl kullandıklarını bildiren bir makale yayımladılar.

Tescilli veya özel verilerin sızması olasılığından endişe duyan Apple dahil şirketler, çalışanlarının ChatGPT ve benzeri siteleri kullanımını kısıtladı.

Aralık ayında Ubiquiti‘nin UniFi cihazlarının ilgisiz kullanıcılara ait özel videoları yayımladığının tespit edildiği bir makalede de belirtildiği gibi, bu tür deneyimler internet kadar eskidir. Makalede açıklandığı gibi:

Bu tür sistem hatalarının kesin kök nedenleri olaydan olaya değişmekle birlikte, genellikle ön ve arka uç cihazlar arasında yer alan “middlebox" cihazları ile ilgilidir. Performansı artırmak için middlebox‘lar, yakın zamanda giriş yapmış kullanıcıların kimlik bilgileri de dahil olmak üzere belirli verileri önbelleğe alır. Uyuşmazlıklar meydana geldiğinde, bir hesaba ait kimlik bilgileri farklı bir hesapla eşleştirilebilir.

2023’ün sonlarına doğru Google araştırmacıları, ChatGPT‘nin belirli “saldırı" komutlarını ya da chatbot’un yapmaması gereken şeyleri yapmasına neden olan anahtar kelimeleri kullanarak eğitim verilerinin büyük bir kısmını açığa çıkaracağını keşfetti.

Ancak bu durum bize eski operasyon güvenliği atasözünü hatırlatıyor: ChatGPT‘ye ya da başka bir programa bir yabancının görmesini istemeyeceğiniz hiçbir bilgi ya da herhangi bir şeyi koymayın.

Bu içeriği beğendiyseniz lütfen çevrenizle paylaşınız…