müfettiş
Moderatör
- Katılım
- 20 Ocak 2024
- Mesajlar
- 325
- Tepkime puanı
- 1
- Puanları
- 18
Dijital çağda kişisel verilerin korunması, temel bir insan hakkı olarak kabul ediliyor. Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği (GDPR) ile hayatımıza giren "Unutulma Hakkı", bireylerin kendilerine ait verilerin arama motorlarından veya veri tabanlarından silinmesini talep etme hakkını tanıyor. Ancak, yapay zeka (YZ) ve özellikle Büyük Dil Modelleri (LLM) söz konusu olduğunda, bu hakkın uygulanması teknik bir kördüğüme dönüşüyor.
1. Unutulma Hakkı Nedir?
Unutulma hakkı, bir bireyin kişisel verilerinin artık gerekli olmadığı, rızanın geri çekildiği veya verilerin hukuka aykırı olarak işlendiği durumlarda, bu verilerin silinmesini veya erişilemez hale getirilmesini isteme yetkisidir.Geleneksel veri tabanlarında bu işlem oldukça basittir: Veri tabanı yöneticisi ilgili satırı siler (DELETE komutu) ve veri yok olur. Ancak yapay zeka modelleri birer veri tabanı değildir; onlar veriden öğrenen yapılardır.
2. Yapay Zeka Modelleri Neden "Silemez"?
Bir yapay zeka modeli eğitildiğinde, veriler modelin içine birer dosya olarak kaydedilmez. Bunun yerine, veriler modelin milyarlarca parametresi (ağırlıkları) arasında dağıtılır.Model Parametreleri ve Veri İlişkisi
Bir model, eğitildiği veriyi "ezberlemez" (en azından teoride); verideki desenleri öğrenir. Ancak bu süreçte, nadir bulunan kişisel bilgiler modelin ağırlıklarına derinlemesine işlenebilir. Bir kullanıcının adını veya adresini modelden silmek istemesi, bir kekin içinden şekeri geri çıkarmaya çalışmaya benzer. Şeker artık unla, yumurtayla ve sütle moleküler düzeyde birleşmiştir.Halüsinasyon ve Veri Sızıntısı
Modeller bazen eğitim verilerini doğrudan "kusabilir". Bu duruma veri sızıntısı denir. Eğer bir model, silinmesi gereken hassas bir veriyi parametrelerinde tutmaya devam ederse, uygun bir komutla (prompt) bu bilgiyi ifşa edebilir.3. Makine Unutması (Machine Unlearning): Çözüm Mü?
Bilim insanları, modellerin tüm yapısını bozmadan belirli verileri "unutturmanın" yollarını arıyor. Bu alana Makine Unutması (Machine Unlearning) deniyor.Temel Yaklaşımlar:
- Sıfırdan Eğitim (Retraining): En kesin çözüm, silinmesi istenen veriyi veri setinden çıkarıp modeli en baştan eğitmektir. Ancak GPT-4 gibi modellerin eğitimi aylar sürer ve on milyonlarca dolara mal olur. Tek bir kullanıcının talebi için bu yöntem ekonomik olarak imkansızdır.
- Diferansiyel Gizlilik (Differential Privacy): Eğitim aşamasında veriye "gürültü" ekleyerek, modelin bireysel veri noktalarını öğrenmesini engellemektir. Bu, veri sızıntısını önler ancak modelin genel performansını düşürebilir.
- İnce Ayar (Fine-tuning) ile Unutturma: Modele, silinmesi istenen verinin yanlış veya geçersiz olduğu yönünde ek eğitim verilmesidir. Ancak bu yöntem genellikle veriyi silmez, sadece modelin o veriyi önceliklendirmesini engeller (maskeleme).
- Sınıf Seviyesinde Silme: Belirli bir veri grubuna ait ağırlıkları tespit edip bunları nöral ağdan izole ederek etkisiz hale getirme yöntemidir.
4. Hukuki Boyut: Yasalar Yapay Zekaya Ne Diyor?
Dünya genelindeki veri koruma yasaları, yapay zekanın teknik gerçeklerinden önce yazıldı. Bu durum ciddi bir uyumsuzluk yaratıyor.- GDPR (Avrupa): 17. Madde uyarınca bireyler verilerinin silinmesini isteyebilir. Avrupa Veri Koruma Kurulu (EDPB), yapay zeka modellerinin bu kapsama girip girmediği konusunda hala net bir rehber oluşturmaya çalışıyor.
- Yapay Zeka Yasası (EU AI Act): Yeni kabul edilen bu yasa, yüksek riskli YZ sistemlerinin veri yönetimi ve şeffaflık konusunda katı kurallara uymasını şart koşuyor.
- Telif Hakları: Sadece kişisel veriler değil, sanatçıların ve yazarların eserlerinin de model eğitiminden çıkarılması talebi (Opt-out), unutulma hakkının bir türevi olarak karşımıza çıkıyor.
5. Uygulamadaki Zorluklar ve Riskler
Yapay zekada veriyi silmeye çalışmanın getirdiği bazı yan etkiler vardır:- Katastrofik Unutma (Catastrophic Forgetting): Bir veriyi silmeye çalışırken modelin daha önce öğrendiği hayati bilgileri de kaybetmesi riskidir.
- Model Performansının Düşmesi: Hassas verilerin temizlenmesi, modelin dili anlama veya mantık yürütme yeteneğinde delikler açabilir.
- Tersine Mühendislik: Bazen bir verinin "silindiğini" beyan etmek, saldırganlara o verinin orada olduğuna dair bir ipucu verebilir.
6. Şirketler Bu Durumla Nasıl Başa Çıkıyor?
Şu an için teknoloji devleri (OpenAI, Google, Meta) genellikle iki yöntem kullanıyor:- Filtreleme: Veri modelden silinmez, ancak kullanıcıya sunulmadan önce bir güvenlik katmanında filtrelenir. Eğer çıktı kişisel bir veri içeriyorsa, sistem bunu engeller.
- Eğitim Öncesi Temizlik: Veri setleri eğitilmeden önce otomatik araçlarla taranır ve kişisel bilgiler (TCKN, telefon, adres vb.) çıkarılır. Ancak bu, eğitildikten sonra gelen "unutulma" taleplerine çözüm üretmez.
7. Gelecek Senaryoları: "Unutabilen" Yapay Zekalar
Gelecekte, yapay zeka mimarilerinin "modüler" hale gelmesi bekleniyor. Eğer bir model, bloklar halinde inşa edilirse, belirli bir veri grubunu içeren blok çıkarılıp yerine yenisi eklenebilir. Ayrıca, "Geçici Öğrenme" mekanizmalarıyla, verilerin belirli bir süre sonra model parametrelerinden otomatik olarak silindiği sistemler üzerinde çalışılıyor.Sonuç
Yapay zekada unutulma hakkı, dijital hukukun ve bilgisayar biliminin en büyük çatışma alanlarından biridir. Mevcut teknoloji ile bir veriyi "tamamen ve iz bırakmadan" silmek, modelin bütünlüğünü riske atmaktadır. Ancak kullanıcı gizliliğine verilen önemin artmasıyla birlikte, Makine Unutması algoritmaları standart bir prosedür haline gelecektir.Yapay zekanın sadece "öğrenen" değil, aynı zamanda etik kurallar çerçevesinde "unutabilen" bir sistem olması, toplumsal güvenin inşası için zorunludur.