Vital, Sophia ve Şti. - Robotların Hukuki Kişiliğinin Arayışında

Pagallo, U., Vital, Sophia, and Co. - The Quest of the Legal Personhood of Robots

Ugo PAGALLO, Ceren SOYDAN

Bu makale günümüz yapay zeka robotlarının hukuki kişiliği statüsü tartışmalarını ele almasının yanında, bilim insanlarının ve politika belirleyicilerin, bu yapay zekalı temsilcilerin hukuki temsilciliğini, hukuki kişilik statüsüyle nasıl karıştırdıklarını ele alır. Bu çalışma, alandaki son trendleri de göz önüne alarak, iki yönlü bir tutumu benimser. İlk olarak politika belirleyiciler, yapay zekalı (AI) robotların sözleşmeler ve ticaret hukuku alanlarındaki faaliyetleri için, örneğin dağıtılmış sorumluluğa yönelik karmaşık durumlardaki hukuki temsilciliğin yeni biçimleri üzerinde kafa yormalıdırlar. İkinci olarak, AI robotlarına tam hukuki kişilik tanımayı öngören her önerme yakın gelecek bakımından bir tarafa itilmelidir. Ancak, Ekim 2017’de Suudi Arabistan’dan vatandaşlık alan ilk AI uygulaması olan Sophia’yı ne yapacağız? Kabul edilmelidir ki, bir kimseye veyahut bir şeye, hukuki kişiliğin tanınması- her zaman olduğu gibi- salt rasyonel seçimlere veya deneysel delillere dayanmayan, ziyadesiyle hassas bir siyasi mevzudur. Takdir yetkisi, keyfilik ve hatta garip kararlar bu kapsamda rol oynayabilir. Oysa hukuk sistemlerinin, insanlara ve şirketler gibi yapay varlıklara statülerini tanımalarının normatif nedenleri, günümüzde AI robotların hukuki kişiliğinin arayışında taraf tutmamıza yardımcı olur. Yurttaş Sophia gerçekten de bilinçli midir veya zalim bilim insanlarının sapan ve oklarından etkilenir mi?

Yapay Zeka, Vekil, Sorumluluk, Kişilik, Yükümlülük, Robotik.

The paper examines today’s debate on the legal status of AI robots, and how often scholars and policy makers confuse the legal agenthood of these artificial agents with the status of legal personhood. By taking into account current trends in the field, the paper suggests a twofold stance. First, policy makers shall seriously mull over the possibility of establishing novel forms of accountability and liability for the activities of AI robots in contracts and business law, e.g., new forms of legal agenthood in cases of complex distributed responsibility. Second, any hypothesis of granting AI robots full legal personhood has to be discarded in the foreseeable future. However, how should we deal with Sophia, which became the first AI application to receive citizenship of any country, namely, Saudi Arabia, in October 2017? Admittedly, granting someone, or something, legal personhood is -as always has been- a highly sensitive political issue that does not simply hinge on rational choices and empirical evidence. Discretion, arbitrariness, and even bizarre decisions play a role in this context. However, the normative reasons why legal systems grant human and artificial entities, such as corporations, their status, help us taking sides on today’s quest for the legal personhood of AI robots. Is citizen Sophia really conscious, or capable of suffering the slings and arrows of outrageous scholars?

Artificial Intelligence, Legal Agent, Liability, Personhood, Responsibility, Robotics.

1. GİRİŞ

Robotların hukuki kişiliği, günümüz teknolojisinin getirdiği normatif sorunlara yönelik güncel tartışmaların popüler bir konusudur. Örneğin 2007’de, Carson Reynolds ve Masatoshi Ishikawa Robot Haydutlar (Robot Thugs) senaryolarını ortaya attılar. Bu senaryoya göre bu robotlar, suç işlemeyi seçen ve nihayetinde suç tasarlayan makinelerdir. Yazarların amacı, bu makinelerin ne derece sorumlu tutulup tutulamayacaklarını ve ne derece sorumlu tutulabileceklerini belirlemekti[1]. Üç sene sonra, temsil ve cezai sorumluluk üzerine olan bu analizi, sözleşmeden doğan ve sözleşme dışı sorumluluk alanlarına genişlettim[2]. Reynolds ve Ishikawa’nın yaratığı Picciotto Roboto’ya hürmeten, sonraki çalışmam, akıllı AI sistemlerinin, cezai hesap verebilirlik, ihmal veya insan kastı gibi hukukun temel direklerini nasıl etkileyebileceği hakkında kısa ve öz bir fenomenoloji ortaya koydu [3]. 2013’de, bu analizi Robotların Hukuku (The Laws of Robots) adlı monografimde toparladım [4]. Bu eserde, üçlü bir soyutlama önerdim. Böylelikle robotların ve AI sistemlerinin hukuki kişiliklerine dair tartışmaya atıfta bulunmayı amaçladım. Şöyle ki:

i. Robotların anayasal haklarıyla beraber gerçek manda hukuki “kişiler” olarak hukuki kişilikleri (örneğin, Avrupa Birliği’nin neredeyse yirmi yıl boyunca kendi hukuki kişiliği olmaksızın varlığını sürdürmesi dikkate değerdir);

ii. Sözleşmeler ve ticaret hukuku alanında robotların hukuki sorumluluğu (örneğin, köleler, Roma hukukuna göre ne hukuki kişilerdi ne de insan sayılıyorlardı; ancak yine de ticaret hukukunda belli derecede sorumlulukları söz konusuydu);