X
Test Turinga a procesy sądowe
Filozofia, Prawo

Test Turinga a procesy sądowe

24 lutego 2017 0

F.E. Guerra-Pujol w tekście The Turing Test and the legal process proponuje – na zasadzie eksperymentu myślowego – wykorzystanie zmodyfikowanego Testu Turinga na potrzeby postępowań sądowych. Propozycja ma na celu zastąpienie „tajemnych i archaicznych” procesów prawa cywilnego i  karnego modelem probabilistycznym opartym na Teście Turinga, wyjętym wprost ze świata komputerów. Czy taka propozycja ma sens? Po przedstawieniu założeń koncepcji w tekście, nastąpi jego krytyczna analiza z perspektywy polskiego prawa karnego.

Test Turinga

 

Autor koncepcji wychodzi od pytania jak powinien wyglądać idealny system orzekania, który jest racjonalny i ma niską podatność na błędy. Taki, który dodatkowo byłby wolny od uprzedzeń opartych na płci, rasie, wieku oskarżonego lub bieżącej polityki. Próba odpowiedzi na to pytanie zawiera propozycję stworzenia całkowicie nowego systemu orzekania w sprawach karnych i cywilnych. System ten miałby być uproszczony, oparty na zasadzie prawdopodobieństwa i przypominający Test Turinga. Według F.E. Guerra-Pujol’a tekst opublikowany w 1950 r. przez Alana Turinga wpłynął na dyskusję w dziedzinie informatyki, Sztucznej Inteligencji i filozofii umysłu, ale to nie koniec – może być wykorzystywany także na gruncie rozważań prawniczych.

 

Oryginalny Test Turinga nie miał nic do czynienia z prawem, jednak odpowiednia jego modyfikacja – zdaniem autora – może pomóc określić odpowiedzialność – na gruncie prawa cywilnego i karnego.

 

W sławnym tekście Alana Turinga Computing Machinery and Intelligence autor wychodzi od zadania pytania czy maszyny mogą myśleć. Uznając, że nie będzie można satysfakcjonująco odpowiedzieć na tak zadane pytanie modyfikuje problem pytając, czy w przypadku „gry w naśladownictwo” (Imitation Game) maszyna poradzi sobie równie dobrze jak człowiek?

 

Paweł Łupkowski opisuje ten eksperyment myślowy w sposób następujący:

 

„Konstrukcję i zasady owej gry zaczerpnął Turing z popularnej w Anglii gry towarzyskiej, nazywanej grą w naśladownictwo (imitation game). Biorą w niej udział trzy osoby: mężczyzna (A), kobieta (B) i pytający – C (dowolnej płci). Mężczyzna i kobieta przebywają w osobnych pokojach, oddzieleni od siebie i od pytającego. Oczywiście gracze nie mogą się widzieć ani słyszeć, czy też pisać do siebie pismem odręcznym (mogą porozumiewać się np. dzięki gońcowi). Pytający może zadawać pytania osobom w pokojach, które zna jako X i Y. Jego zadaniem jest określenie (wyłącznie na podstawie uzyskanych odpowiedzi), w którym pokoju znajduje się kobieta, a w którym mężczyzna. Dodatkowo zakłada się, że A w trakcie gry ma robić wszystko aby wprowadzić pytającego w błąd, tak aby dokonał niepoprawnej identyfikacji – może zatem swobodnie kłamać, zaś B ma udzielać zawsze prawdziwych odpowiedzi. Modyfikacja, którą wprowadza Turing, polega na zastąpieniu jednej z osób maszyną.

 

Oczywiście zadaniem pytającego nie jest już odgadnięcie płci jednego z graczy ale rozpoznanie – podobnie jak w przypadku gry w naśladownictwo jedynie na podstawie udzielonych odpowiedzi – który z nich jest człowiekiem, a który maszyną. Kryterium bycia inteligentnym zostaje więc sprowadzone do kryterium powodzenia w tak zaprojektowanej grze. Jeżeli pytający błędnie zidentyfikuje maszynę, jako człowieka, oznaczać to będzie, że maszyna myśli.”

 

 

Podobieństwa Testu Turinga z procesami sądowymi

 

Autor tekstu uważa, że występują uderzające podobieństwa pomiędzy Imitation game zaprezentowaną przez Turinga, a swoistą grą jaką jest proces sądowy.

 

Przede wszystkim w obu występuje „cel śledczy”. Osoba pytającego z Testu Turinga mająca rozstrzygnąć z kim rozmawia jak i sędzia w procesie muszą określić kto ma rację. Pytający z Testu Turinga ma ustalić tożsamość osoby (płci, gatunku), z którą rozmawia, a sędzia w procesie karnym rozstrzyga o winie osoby oskarżonej bądź jej braku lub o odpowiedzialności cywilnej na gruncie prawa cywilnego.

 

Innym podobieństwem jest początkowy „stan niewiedzy”. W  Teście Turinga dotyczy on osoby mającej odgadnąć właściwości swoich dyskutantów, a w sali sądowej sędziego lub ławy przysięgłych. Sędzia pomimo tego, że widzi uczestników postępowania nie może zobaczyć od razu tego czy osoba, z którą ma czynienia jest winna czy nie, lub tego kto mówi prawdę. Stan niewiedzy może pozostać także po zakończonym procesie – po przeprowadzonym postepowaniu dowodowym, wysłuchaniu świadków, wyjaśnieniach oskarżonego i argumentów jego obrońcy.

 

Problem niewiedzy jest trzonem Testu Turinga i procesu sądowego. Próbuje on być rozwiązany poprzez format „pytań i odpowiedzi”.  Cel jest ten sam w obu „grach” – skutkiem zadawania pytań ma być przejście ze stanu niewiedzy do stanu wiedzy (przynajmniej częściowej). Zadawane są pytania –  przez pytającego z Testu Turinga oraz przez uczestników postępowania sądowego, a odpowiedzi są poddawane ocenie i analizie.

 

Innym podobieństwem jest „obecność oszusta” i jego postawy strategicznej. Zarówno jeden z uczestników Testu Turinga jak i „gry sądowej” nie ma racji. Rolą „oszustów”
i ich myślenia strategicznego jest wprowadzenie w błąd rozmówcy w celu podjęcia błędnej decyzji.

 

„Procesowa gra Turinga”

 

W związku z zaobserwowanymi podobieństwami, autor proponuje zastosowanie zmodyfikowanego Testu Turinga w procesach sądowych. Ma on być dużo prostszy w porównaniu z obecnie rozbudowanym zestawem norm procesowych.

 

Próbując aplikować koncepcję do procesu, należy wyjść od pytania o to jakie są cele postępowania sądowego. Autor teorii wskazuje dwa. Pierwszy nazywa „fałszywym alarmem”, polegającym na tym, że w procesie powinno unikać się skazywania osób niewinnych. Drugi cel określa jako „chybienia” – powinno dążyć się zmniejszenia liczby nieskazywania osób winnych. Konstatuje, że ta dwa cele pozostają ze sobą w konflikcie – skupienie na jednym z celów sprawia, że drugi na tym cierpi. Docelowo najlepszy jest system, który balansuje te cele. Taki w opinii autora jest ten zaproponowany przez niego.

 

Ponadto autor wskazuje, że obecny system wymierzania odpowiedzialności prawnej (cywilnej i karnej) jest nieefektywny i bardzo drogi. Strony postępowania robią wszystko co mogą aby wiarygodne dowody nie były dopuszczone do procesu. Co więcej –  pasywni ignoranccy sędziowie w tajemnicy orzekają o odpowiedzialności i nakładają kary na stronę przegraną. Taka procedura bliższa jest według autora do polityki lub wyboru papieża niż do racjonalnego dochodzenia do prawdy.

 

W tym miejscu powstaje pytanie co by się stało gdyby w procesie zastosowano Test Turinga. Sędzia byłby graczem C i przejąłby rolę pytającego z Testu Turinga, a strony pełniłyby rolę graczy A i B, ale zamiast zadania polegającego na odgadnięciu płci lub gatunku rodzajowego graczy, sędzia próbowałby odgadnąć, czy oskarżony/pozwany dopuścił się bezprawnego czynu.

 

Autor nazywa takie zastosowanie testu „Procesową grą Turinga” (Turing litigation game). Główną różnicą – według autora – pomiędzy istniejącym Anglo-amerykańskim systemem prawnym, a „Procesową grą Turinga” jest założenie, że sędzia będzie mógł zadać stronom wszelkie pytania związane ze sprawą w celu upewnienia się w przedmiocie prawdziwości twierdzeń strony oskarżonej/pozwanej i oszacowania prawdopodobieństwa jego winy/odpowiedzialności. Miałoby to wykluczyć to, co się dzieje w postępowaniu przygotowawczym (pre-trial) – fazie przed rozpoczęciem właściwego sądowego procesu, czyli czynności polegające na składaniu wniosków np. o niedopuszczenie konkretnych dowodów. Zamiast tego etapu postępowania z wszelkimi zagadnieniami związanymi ze sprawą zapoznawałby się sędzia już na etapie procesu sądowego. Mógłby zadać wszelkie pytania na tym etapie. Na marginesie tylko dodać należy, iż uwagi mogą być niezrozumiałe dla polskiego czytelnika, ma to związek bowiem ze specyfiką systemu występującego w USA.

 

Rolą sądu, niezależnie od tego czy składa się z sędziego profesjonalnego czy ławy przysięgłych,  jest odpowiedzenie na pytanie czy gracz B dopuścił się zarzucanego mu czynu. Podobnie jak w oryginalnym Teście Turinga sędzia (gracz C) byłby oddzielony od graczy A i B i znajdowałby się w innym pokoju.  Cała komunikacja między nimi od obywałaby się elektronicznie. Celem tego miałoby być uniknięcie uprzedzeń w stosunku do przedmiotu postępowania jak i osoby oskarżonej/pozwanej.

 

Rolą gracza A jest przekonanie sądu, że B dopuścił się czynu będącego podstawą sprawy, a rolą gracza B jest wykazanie, że gracz A się myli – w zakresie oceny faktów lub prawa.

 

Autor wskazuje, że możliwa jest jeszcze głębsza analogia do Testu Turinga, w którym jeden z uczestników jest maszyną. Postuluje, aby docelowo rolę gracza C – czyli sędziego – przejął komputer. W ocenie autora byłby to w pełni obiektywny sędzia nie posiadający wcześniejszych uprzedzeń.

 

Niestety na tym kończy się specyfikacja „Procesowej gry Turinga”. Autor  zdaje sobie sprawę z niedookreślenia swojej koncepcji i zasad nią rządzących i wskazuje, że trzeba będzie dopracować szczegóły, wymienia kilka, które są według niego kluczowe:

  • wybór sędziego;
  • ograniczenia w zakresie zadawania pytań;
  • kwestia możliwości zadawania sobie pytań przez graczy A i B;
  • ilość pytań i czas w jakim mogą być zadawane pytania;
  • liczba sesji (posiedzeń/rozpraw), na których zadawane są pytania.

 

Autor jest jednak optymistą – wskazuje, że problemy te mogą zostać rozwiązane poprzez włączenie się szerokiego grona specjalistów – informatyków, naukowców i prawników – do pracy nad zaprojektowaniem, rozwiązaniem i testowaniem „Procesowej gry Turinga”. Poświęca także sporo miejsca nad rozważaniami dotyczącymi finansowania projektu, które jednak w tym miejscu nie zostaną przedstawione.

 

Probabilistyczne wyroki

 

Konsekwencją „Procesowej gry Turinga” mają być także wyroki, jednak ich natura będzie odmienna niż obecnie obowiązująca. Autor wskazuje, że wyrok zostanie wydany po oszacowaniu prawdopodobieństwa. Wcześniej wprowadza założenie, w którym określa, że sesje w których zadawane są pytania są rozciągnięte w czasie. Rezultatem każdej z sesji (posiedzenia/rozprawy) jest zbliżenie się do prawdy, jednak po każdej z nich decyzja może się trochę różnić – raz może być bliżej tego, żeby uznać oskarżonego winnym, a raz, że jest jednak niewinny. Odpowiednio duża liczba prób ma dostarczyć jednak wiarygodne rezultaty.

 

Według autora probabilistyczny element występuje w oryginalnym Teście Turinga i ma niebagatelne znaczenie także dla prawa. Obecnie – w jego ocenie – system prawny polega na dychotomicznym podziale na możliwe rozstrzygnięcia sądowe. Sprowadza się do odpowiedzi na pytanie dotyczące odpowiedzialności w formie TAK albo NIE. Po wprowadzeniu „Procesowej gry Turinga” wyroki będą probabilistyczne. Zamiast przesądzania odpowiedzialności wskazywane będzie prawdopodobieństwo popełnienia zarzucanego czynu.

 

Autor podkreśla to ponieważ uważa, że w obecnych procesach de facto występuje już ustalanie prawdopodobieństwa wystąpienia zarzucanego czynu, bowiem nigdy nie mamy absolutnej pewności czy dana osoba się jego dopuściła.

 

Według autora, podejście do probabilistycznych wyroków w większym stopniu odzwierciedla rzeczywisty charakter samego procesu karnego. Chciałby zastąpić stwierdzenie Winny/Niewinny stwierdzeniem „sprawca popełnił zarzucany mu czyn z prawdopodobieństwem p”.

 

To probabilistyczne podejście zawarte w wyroku ma się przełożyć także na prawne konsekwencje czynu. Zatem jeżeli prawdopodobieństwo popełnienia przestępstwa zostało określone na 75%, powinno się to przełożyć na zastosowaną karę i odpowiednio „zmniejszyć” np. ilość czasu jaki skazany miałby spędzić w więzieniu.

 

Autor zastanawia się co by się stało, jeżeli wina zostałaby określona na 50%. Czy powinna być odpowiednio zmniejszona kara, czy powinny zostać ustalone progi, których przekroczenie dopiero  pozwala na jej wymierzenie – np. sprawach karnych p>0,9, a w sprawach cywilnych p>0,5 . Autor nie odpowiada na to pytanie wskazując, że tym powinien zając się ktoś inny, ktoś kto zajmować się będzie wprowadzaniem systemu w życie.

 

Filozoficzne problemy z „Procesową grą Turinga”

 

Autor czując, że jego koncepcja może zostać skrytykowana, próbuje wyprzedzić ruchy wrogich mu osób i już zawczasu ich rozbroić. Sam więc podejmuje się krytycznego spojrzenia na swoją koncepcję. Część zastrzeżeń opisuje w sekcji „Filozoficzne zastrzeżenia”. Zaznacza na początku, że większość z krytycznych zarzutów może powstać w związku z praktycznym wykorzystaniem koncepcji w procesie stosowania prawa, jednak to go nie dotyczy, gdyż takich praktycznych zasad nie proponował. Stwierdza jednak, że część zastrzeżeń może mieć bardziej abstrakcyjny charakter.

 

Zidentyfikowane zostały trzy problemy. Pierwszy to tolerowanie, a nawet promowanie kłamstwa i oszustwa. Drugi związany jest z brakiem spełniania pozostałych funkcji związanych z toczącymi się postępowaniami jak prawotwórcza rola procesu lub funkcja związana z kształtowaniem odpowiednich postaw społecznych.  Ostatni zaprezentowany problem to zagrożenie praw strony pozwanej/oskarżonej – szczególnie w procesach karnych.

 

Rozwiązaniem dla pierwszego problemu może być fakt, że odpowiednia duża liczba sesji wyeliminuje ryzyko  przyjęcia nieprawdziwego rozstrzygnięcia. Ponadto wskazano, że także obecnie możliwe jest oparcie wyroku na nieprawdziwych twierdzeniach.

 

Odnosząc się do argumentu związanego z funkcją kreowania prawa i przekazywania społecznych wartości zostało podkreślone, że są to cele subsydiarne, a głównym celem postępowania jest dojście do prawdy. Nadrzędna rola procesu zostanie więc zrealizowana – to, że pozostałe nie będą realizowane ma marginalne znaczenie.

 

Sposobem poradzenia sobie z problemem dotyczącym braku stosowania konstytucyjnych gwarancji procesowych przewidzianych przez prawo przede wszystkim dla oskarżonego, jest zaproponowanie by „Procesowa gra Turinga” była możliwą opcją wyboru. Decydowałby o tym sam oskarżony. Mógłby wybrać tryb „stary” z obecnymi niedoskonałościami, albo „nowy” – odarty z uprzedzeń i uchybień.

 

Ocena rozwiązania

 

O ile interesujące są podobieństwa pomiędzy testem Turinga a procesem sądowym, to już merytoryczna ocena zaproponowanego rozwiązania musi być negatywna. Część uwag może być krytyczna ze względu na odmienność systemu – system amerykański, na kanwie którego prowadzone są rozważania autora różni się znacznie od polskiego – jednak trzon uwag krytycznych związany jest z pogwałceniem podstawowych reguł procesowych, mających uniwersalny charakter. Uwagi krytyczne będą czynione z perspektywy polskiego prawa karnego.

 

  1. Przede wszystkim wydaje się, że wadliwe jest założenie pojawiające się w tekście, że proces karny sprowadza się do ocenienia czy oskarżony jest winny. W Polsce, w przypadku 98,5% aktów oskarżania złożonych do sądów następowało skazanie. Kwestią poboczną jest to, czy odsetek ten jest zbyt duży. Faktem jest jednak, że w zdecydowanej większości przypadków postępowań sądowych następuje skazanie. Rola oskarżonego i obrońców prawie nigdy nie sprowadza się do dążenia do uniewinnienia skazanego, a raczej do uzyskania takiego rozstrzygnięcia, które będzie najbardziej satysfakcjonujące. Czasami będzie więc chodziło o warunkowe umorzenie postępowania karnego, czasami o warunkowe zawieszenie wymierzonej kary lub o uzyskanie minimalnego okresu na jaki zostanie orzeczony środek karny. Kwestia winy jest przeważnie przesądzona – w sprawach o jazdę pod wpływem alkoholu, w sprawach o posiadanie narkotyków lub o złapanie na usiłowaniu kradzieży kwestia faktów dotyczących znaczenia jest często znana i nie jest podważana przez żadną ze stron. Już przy tym argumencie „Procesowa gra Turinga” pomyślana jako trzon postępowań karnych wydaje się nie mieć sensu, jednak zapoznajmy się z kolejnymi problemami związanymi z tą koncepcją.

 

  1. Drugim problemem, który wydaje się kluczowy dla omawianej problematyki jest wydawanie probabilistycznych wyroków i wymierzanie na ich podstawie kary. Jest to całkowicie sprzeczne z podstawowymi zasadami procesu karnego. Chodzi o zasadę domniemania niewinności i związane z nią in dubio pro reo, czyli zawartą w art. 5 § 2 kodeksu postępowania karnego normę statuującą, że „niedające się usunąć wątpliwości rozstrzyga się na korzyść oskarżonego”. Stwierdzenie, że sprawca jest winny w 75% oznaczać musiałoby w polskim systemie prawnym uniewinnienie – skoro nie mamy pewności, że to on jest sprawcą czynu, to nie można takiej osoby skazać, a wiec także wymierzyć kary. Wprawdzie w niektórych przypadkach nie ma 100% pewności, że dana osoba dopuściła się zarzucanego jej czynu, jednak poziom przekonania sądu o tym, że sprawca dopuścił się zarzucanego czynu musi graniczyć z pewnością.

 

  1. Proces oparty o „Procesową grę Turinga” zakłada aktywną rolę dwóch stron – stronę oskarżyciela i osoby oskarżonej. Znowu, wydaje się, że jest to naruszenie podstawowej zasady – prawa do obrony – polegającego m.in. na tym, że oskarżony ma prawo do odmowy składania wyjaśnień lub odpowiedzi na poszczególne pytania. To oskarżyciel powinien aktywnie uczestniczyć w udowadnianiu, że oskarżony dopuścił się do zarzucanego mu czynu. Jeżeli oskarżony nie odpowiadałby na pytania, sędzia musiałby brać pod uwagę jedynie treści dostarczane przez stronę oskarżającą, a więc szansa skazania wzrosłaby przy pasywnej postawie oskarżonego. Zmuszałoby to do aktywności oskarżonego, a jednocześnie byłoby sprzeczne z prawem do obrony.

 

  1. Problematyczne jest oddzielenie sądu od stron postępowania. Według omawianej koncepcji sąd znajdowałby się w innym pomieszczeniu. Takie ukształtowanie procesu godziłoby w zasadę bezpośredniości, zgodnie z którą sąd powinien mieć możliwość osobistego zapoznania się z materiałem dowodowym i zetknięcia się z wszelkimi materiałami postępowania. Ocena wiarygodności zeznań świadków opiera się nie tylko na treści wypowiadanych słów ale także np. na mowie ciała, a więc elementach, które trudno zapisać. Jeżeli sąd zobaczy, że świadek się dziwnie zachowuje, poci i wykazuje oznaki kłamstwa, to może zawnioskować o przesłuchanie kolejnych świadków. Ocena tylko i wyłącznie pisemnych materiałów postępowania nie da powodów do powzięcia takich wątpliwości, a więc może to wbrew intencjom autora koncepcji, oddalić nas od właściwego rozstrzygnięcia.

 

  1. Autor wyolbrzymia cel postępowania karnego jakim jest dojście do prawdy, który jest oczywiście kluczowy, ale nie jedyny. Polski kodeks postępowania karnego opisuje cele postępowania w art. 2:
    „1. Przepisy niniejszego kodeksu mają na celu takie ukształtowanie postępowania karnego, aby:
    1) sprawca przestępstwa został wykryty i pociągnięty do odpowiedzialności karnej, a osoba niewinna nie poniosła tej odpowiedzialności;
    2) przez trafne zastosowanie środków przewidzianych w prawie karnym oraz ujawnienie okoliczności sprzyjających popełnieniu przestępstwa osiągnięte zostały zadania postępowania karnego nie tylko w zwalczaniu przestępstw, lecz również w zapobieganiu im oraz w umacnianiu poszanowania prawa i zasad współżycia społecznego;
    3) zostały uwzględnione prawnie chronione interesy pokrzywdzonego przy jednoczesnym poszanowaniu jego godności;
    4) rozstrzygnięcie sprawy nastąpiło w rozsądnym terminie.
    2. Podstawę wszelkich rozstrzygnięć powinny stanowić prawdziwe ustalenia faktyczne.”

    Dojście do prawdy materialnej nie ma charakteru bezwzględnego. Względy humanitarne pozwalają np. na odmowę składania zeznań przez małżonków. Nie wolno także przesłuchiwać np. duchownych co do faktów o jakich dowiedzieli się podczas spowiedzi. Bezwzględne dążenie do prawdy materialnej może spowodować wiele zła i jest niebezpieczne – zniszczyć może zaufanie jakimi ludzie darzą najbliższych i pewne grupy zawodowe – adwokatów, lekarzy, duchownych i dziennikarzy.

 

  1. Naiwna jest także wiara w to, że komputery będą pozbawione wszelkich ludzkich wad, w tym uprzedzeń i krzywdzących preferencji. Chodzi o plany zastąpienia sędziów algorytmami. Komputery są tworzone przez ludzi i ich natura ma także odbicie w ich działaniu. Dobitnie można było się o tym przekonać podczas konkursu piękności z 2016 r. ocenianym przez Sztuczną Inteligencję. Okazało się, że algorytm oceniający gorzej traktował kandydatki o innej niż biała karnacji. Na 44 laureatki tylko jedna miała ciemniejszą skórę. Odzwierciedlało to preferencje twórców programu. Tak samo mogłoby być w przypadku sędziego oceniającego już nie urodę kandydatek, a kwestię odpowiedzialności karnej.

 

Zakończenie

 

Podsumowując, już same ogólnie zarysowane założenia teorii sprzeczne są z podstawowymi zasadami prawa karnego. Ponadto opierają się na nieprawdziwym wyobrażeniu rzeczywistości procesowej, w której nie chodzi przecież wyłącznie o stwierdzenie winy. Próba krytycznego podejścia do projektu jest niepełna bowiem brak jest szczegółów, jednak wydaje się, że już same założenia pozwalają na odrzucenie w całości proponowanego rozwiązania.