OpenAI GPT'leri Kişisel Bilgileri Sızdırıyor Mu? İşte Detaylar

Kodlama bilgisi olmadan kendi yapay zeka sohbet botu oluşturulabilir. Kasım ayının başından bu yana şirket içindeki kaosun hemen öncesinde OpenAI, herkesin kendi özel ChatGPT sürümünü oluşturup yayımlamasına izin verdi. Şu an ise bu özel GPT'ler, "nomad" adlı bir GPT'nin uzaktan çalışma ve yaşamla ilgili tavsiyelerde bulunduğu diğer bir GPT'nin 200 milyon akademik makaleyi tarayarak sorularınıza cevap verdiğini iddia ettiği bir diğerinin ise sizi bir Pixar karakterine dönüştürdüğü binlerce örnekle çeşitlenmiş durumda.

Ancak, özel sohbet botlarını inceleyen uzmanlar, bu botların oluşturulduklarında aldıkları ilk talimatları ifşa etmelerini sağlamış ve bu botları özelleştirmek için kullanılan dosyaları indirmiş. Uzmanlara göre, bu durum kişilerin kişisel bilgilerinin veya mülkiyet bilgilerinin risk altında olmasına neden olabilir.

Northwestern Üniversitesi'nde bilgisayar bilimi araştırmacısı Jiahao Yu, "Dosya sızıntısıyla ilgili gizlilik endişeler ciddiye alınmalıdır. Hassas bilgiler içermeseler bile, tasarımcının diğerlerle paylaşmak istemediği, özel GPT'nin çekirdek kısmını oluşturan bilgileri içerebilir" dedi.

Northwestern'deki diğer araştırmacılarla birlikte Yu, 200'den fazla özel OpenAI GPT'sini test etmiş ve buralarda yer alan bilgilere kolaylıkla erişebilmiş.

İlginizi çekebilir: OpenAI Şirketine Microsoft Gözetmeni Atandı! İşte Detaylar

Yapay Zeka Sohbetbotları ve Özel GPT'lerin Güvenlik Zafiyetleri: Kullanıcı Bilgileri ve Veri Gizliliği Riskleri

Özel GPT'lerin yapımı tasarımı gereği oldukça kolay. OpenAI abonesi olan kişiler GPT'leri, yani yapay zeka ajanlarını, oluşturabilir. OpenAI, GPT'lerin kişisel kullanım veya web'e yayınlama amacıyla oluşturulabileceğini söylüyor. Şirket, geliştiricilerin zamanla GPT'leri kullanan kişi sayısına bağlı olarak para kazanabilmesini planlıyor.

Özel bir GPT oluşturmak için yapmanız gereken tek şey, ChatGPT'ye mesaj atmak ve özel botun ne yapmasını istediğinizi söylemektir. Botun ne yapması veya yapmaması gerektiği konusunda talimatlar vermelisiniz. Örneğin, bir ülkenin vergi yasalarıyla ilgili sorulara cevap verebilecek bir bot, ilgisiz sorulara veya diğer ülkelerin yasalarına dair cevaplar vermeme talimatı alabilir.

Chatbot'un uzmanlık alanını genişletmek için belirli bilgiler içeren belgeleri yükleyebilir, örneğin o ülkenin vergi botuna yasa nasıl çalışır hakkında bilgiler içeren dosyalar sağlayabilirsiniz. Üçüncü taraf API'larını özel bir GPT'ye bağlamak, erişebileceği veri ve tamamlayabileceği görev türünü artırmanın bir yolunu oluşturabilir.

Özel GPT'lere verilen bilgiler önemsiz de olabilir, ancak bazı durumlarda bunlar hassas bilgileri de içerebilir. Yu, özel GPT'lerdeki verilerin genellikle tasarımcının "alan özel içgörülerini" barındırdığını veya "maaş ve iş tanımları" gibi hassas bilgileri içerdiğini söylüyor. Bir GitHub sayfası, özel GPT'lere verilen sızdırılmış talimatların yaklaşık 100 setini listeliyor.