Hipotez Yapay zekâyla çalışmak · 1 dk okuma
Kararın altında kimin adı var?
Yapay zekâ destekli bir işin kaydı, ancak kararı vereni doğru gösteriyorsa ve agent’ın kimin yetkileriyle çalıştığını biliyorsak işe yarar.
Fotoğraf: Gabrielle Henderson, Unsplash
Yeşil, bitti demek değil yazısında anlattığım workshop’tan sonra aklımda iki soru kaldı.
Kim karar verdi?
Bir ekip yapay zekâ aracıyla çalışırken genelde aracı bir kişi kullanır, diğerleri tartışır. O zaman kayıtta kararı veren kişinin değil, klavyedeki kişinin adının geçmesi çok kolaydır.
Küçük bir ayrıntı gibi görünüyor, ama kararların izi ancak doğru kişiyi gösteriyorsa işe yarar. “Ekip” bir karar sahibi değildir; o sırada yazan kişi de değildir.
Kimin yetkileriyle?
Her gün yapay zekâ agent’larıyla çalışan meslektaşlarım basit bir noktaya dikkat çekti: agent senin kimlik bilgilerinle çalışır. Senin yapabildiğin her şeyi o da yapabilir. Proje dosyasındaki kurallar işe yarar, ama bir sandbox değildir.
Fotoğraf: Maria Ziegler, Unsplash
OWASP buna excessive agency diyor: bir agent’ın, işin gerektirdiğinden fazla yetkiye veya serbestliğe sahip olması. Tavsiyesi de yeni değil: verebildiğin en az yetkiyi ver ve gerçek etkisi olan her işte bir insanı sürecin içinde tut.
Artık sorduklarım
“Yapay zekâ kullanıyoruz, ama her şey izlenebilir” dendiğinde iki şey sormak istiyorum:
- Kayıt kimin karar verdiğini mi gösteriyor, yoksa sadece kimin yazdığını mı?
- Agent kimin yetkilerini kullandı?
Henüz tam cevaplarım yok. Bu yüzden bu bir not.
Bir hata mı buldunuz?
Bir sprintte yapacağınız gibi bildirin. Düzeltmeler burada kayda geçer.
Düzeltmeler
Henüz yok.
