Yapay zeka çağında “unutulma hakkı”

0

BEĞENDİM

ABONE OL

News

0

Avrupa’nın Genel Veri Koruma Tüzüğü (GDPR) kapsamında bulunan ve Silme Hakkı olarak da bilinen Unutulma Hakkı (RTBF), bireylere teknoloji şirketlerinden kişisel verilerini kalıcı olarak silmelerini isteme yetkisi veriyor. Ancak söz konusu büyük dil modelleri ve yapay zekalı sohbet robotları olduğunda unutulmak pek de mümkün gibi görünmüyor.

Avustralya Ulusal Bilim Ajansı’nın yapay zeka, robotik ve siber güvenlik konularında uzmanlaşmış olan Data61 İş Birimi’nden araştırmacılar tarafından yürütülen yeni bir çalışma, büyük dil modellerinin (LLM’ler) ve sohbet robotu tabanlı hizmetlerin artan popülaritesinin unutulma hakkı (RTBF) üzerindeki etkilerini değerlendirmeyi amaçladı. Çalışma, teknolojinin mevcut yasal çerçeve tarafından belirlenen sınırları aştığı sonucuna vardı.

Yapay zeka çağında unutulmak mümkün olmayabilir

Benzer yasalar Türkiye, Kanada, Japonya ve diğer ülkelerdeki vatandaşlar tarafından da kullanılabildiğinden, unutulma hakkı sadece Avrupa ile sınırlı değil. Hem Türkiye’deki hem de dünya genelindeki unutulma hakkı prosedürleri öncelikle arama motorları düşünülerek tasarlanmış olup Google, Microsoft ve diğer teknoloji firmaları gibi şirketlerin kendi özel web dizinlerinden belirli verileri tespit edip silmelerini hedefliyordu.

Söz konusu büyük dil modelleri olduğunda işler çok daha karmaşık bir hal alıyor. Avustralyalı araştırmacılara göre, makine öğrenimi tabanlı algoritmalar arama motorları kadar basit değil. Ayrıca, yapay zeka modellerini eğitmek için hangi kişisel verilerin kullanıldığını belirlemek ve bu verilerin belirli bireylerle ilişkilendirilmesini sağlamak da son derece zor.

Araştırmacılara göre, kullanıcılar bu LLM modellerinde yer alan kişisel verilerini ancak “ya orijinal eğitim veri setini inceleyerek ya da belki de modeli yönlendirerek” öğrenebiliyorlar. Bu iki seçenek de pratikte değerlendirilmesi pek mümkün olan seçenekler değil. Ayrıca, sohbet robotları “halüsinasyon” olarak adlandırılan kurgusal yanıtlar üretme yeteneğine sahip olduğundan, komut tabanlı etkileşimler sohbet robotu içindeki temel verilere erişmek için güvenilir olmayan bir yol haline geliyor.

Arama motorlarından farklılar

Araştırmacılar, LLM’lerin arama motorları tarafından kullanılan indeksleme yaklaşımına kıyasla bilgiyi “tamamen farklı bir şekilde” depoladığını ve işlediğini vurguluyor. Ortaya çıkan ve giderek daha popüler hale gelen bu yapay zeka hizmetleri, unutulma hakkı için en basit ifadeyle yeni zorluklar ortaya çıkarıyor diyebiliriz. Bu arada yapay zeka sektöründe faaliyet gösteren büyük şirketler de unutulma hakkının uyum sorununu ele almaya çalışıyor. Modern üretken yapay zeka hizmetlerinde muhtemelen en önde gelen oyuncu olan OpenAI, kullanıcıların kişisel verilerinin ChatGPT çıktılarından kaldırılmasını talep etmeleri için bir form sunuyor. Ancak, bu taleplerin nasıl ele alınacağı veya alındığı belirsizliğini koruyor.

Kaynak: Donanimhaber