Yaşamın Sonundaki Tedavi Kararlarında “Kararı-Destekleyen-Sistem” mi?

Gunnar DUTTGE,Zehra BAŞER DOĞAN

I. Güncel Zorluklar

“Güzel, yeni bir dünya” çoktan başlamıştır: “Bilgisayar sistemleri tıbbi teşhiste bulunup hukuki danışmanlık hizmeti veriyorlar; hisse piyasasını idare ediyorlar, silah sistemleri yönetiyorlar ve belki de yakında arabalarımızı yönetecekler; resim yapıyorlar, şiir yazıyorlar, tercüme yapıyorlar ve beste yapıyorlar [...]. Otelde, süpermarkette ve havaalanında bizi robotlar karşılıyorlar, bize müze gezdirip kapımızın önünde bir paketle beklediklerinde bize telefon açıyorlar; salatalık topluyorlar, ineklerin başında duruyorlar, (fıçıdan) bira çekiyorlar, çim biçiyorlar, camları siliyorlar, cep telefonu montajı yapıyorlar, tulum çalıyor veya futbol oynuyorlar, hamburger pişiriyor ve yanına salata kırpıyorlar. Yapay zeka ani bir çıkış yaşıyor...”.¹ Bu mevzuun cari bilim yılının ana konusu olması sebebiyle, kısa süre önce Şansölye, Almanya’nın “önde giden yapay zeka merkezi” olarak gelişmesi gerektiği ve ilgili araştırmaların maddi anlamda desteklendiğini ilan etmiştir.²

İnsanların karar verme davranışlarına nazaran bilgisayar bazlı işlem sistemlerinin avantajları, en geç “Deep Blue”,³ “Watson”⁴ ve “AlphaGo-Zero”dan⁵ sonra açıkça ortaya çıkmıştır: ilgili verilerin işlenmesinde (bu sistemlerin) hızı ve kombinasyon kapasitesi kat kat daha yüksektir; bilgisayar bazlı üniteler- mevcut algoritmalara dayanarak - “kör noktaları”, “unutkanlıkları” ve özellikle (duygular, mantıksızlık vs. gibi) tipik insani bozukluğa ilişkin eğilimleri olmaksızın, tamamen hatasız bir şekilde işlemektedir; ve sonuç olarak bunlar bakımından - insan olan karar verenlerden farklı olarak - işlevsel bir yazılımları bulunduğu takdirde kural olarak ilgili kullanım alanları bakımından bir kısıtlama bulunmamaktadır. Zeki elektronik son derece güvenilirdir, etkindir ve kullanışlıdır; ortaya koyduğu sonucu her zaman olgulara dayanır, sezgisel değildir. Öteden beri, kendi doğal sınırlarını aşmayı vaat ettiğinden, insanlar için inanılmaz derecede hayranlık uyandırıcıdır. İnsanın yaratıcı elleri ile şekillenen “yapay yardımcı”, antik çağdaki efsanelerden bu yana insanların hayalidir.⁶ Yaratılan (bu yapay yardımcı), katı bir şekilde sadece önceden programlanan çizgi içerisinde çalışmadığı, yani varyasyon imkanlarının tamamen belirlenmiş olmadığı takdirde, aksine somut görev ve olaya ayak uydurabilip, problem çözüm denemelerine (“tecrübeye”) yapılan geri dönüşlerin sürekli olarak birikimine dayanarak dereceli bir şekilde kendisini optimize etme yeteneği (“öğrenme”) kazandığı takdirde “zekidir”.⁷ “Makine öğrenmesinin” en alışılmış yöntemi gözlemlenen öğrenmedir; (bu yöntemle) sistem çok sayıda deneme ve geri bildirim sinyalleri sayesinde arzu edilen işlevselliğe yönelik adeta idman yaptırılırmışçasına optimize edilmektedir; bağımsız/kendi kendine öğrenme (“derin öğrenme”) ise otomatikleştirilmiş bir geri bildirime ve mükemmelliğe sahip (çok aşamalı) yapay bir nöronal ağ (YNA) ve bunun yanında sayısız veri, yüksek derecede verimli bilgisayar ve problem çözümüne elverişli konfigürasyon gerektirir.⁸

Makine işlev birimleri, özellikle öngörülen görevlerin, insan kararlarına nazaran daha iyi - yani daha yüksek bir isabetlilik ve doğruluk oranıyla - yerine getirdiklerinde çok cazip bulunmaktadırlar. Zira özellikle gelecekteki hadiselere yönelik öngörülerde - bunlar ekonomik gelişmeler veya iklim olsun, bağımlıların tedavisindeki başarı veya suçluların tekerrür olasılıkları olsun⁹- belirsizlikler geçerli, güvenilir risk faktörlerine dayanan öngörü araçları olmaksızın bertaraf edilemez. Özellikle burada algoritmaların belirli noktalarda kullanılması daha bugünden şaşırtıcı sonuçlar ortaya koymaktadır: Örneğin bir araştırma ekibi New York City’de 2008 ila 2013 yılları arasında, tutuklanmış/yakalanmış olan ve haklarında güvence karşılığında serbest bırakılmaları veya tutuklanmaları ile ilgili hakim kararı beklenen bütün kişilerin ceza dosyalarını incelemiştir.¹⁰ İlgili verilere dayanarak geliştirilmiş olan algoritmalar, suçlulara, bunların yaklaşık yarısı bakımından haksız yere hafif bir risk atfedildiği, zira serbest bırakılmalarından sonra bunların 2/3’ünün - bilgi işleme dayanılarak öngörüldüğü şekilde - tekrar suç işledikleri veya (bir merci nezdinde) görünme/hazır bulunma yükümlülüklerini yerine getirmediklerini ortaya koymuştur. Bu kadar yüksek bir hata oranında, aynı şekilde önemli bir oranın haksız yere “yüksek risk taşıyıcısı” olarak sınıflandırılmış olduğu ve bunun sonucunda da (haksız yere!) tutuklandıkları kabul edilmelidir. Rhode Island’de bu tür kararlar artık göreve özgü algoritmalar yardımıyla verilmektedir: O gün bugündür yüzde 17 oranında daha az insan hapishanede iken, yüzde altı oranında daha az suçlu tekrar suç işlemiştir.¹¹