Nazywam się Marek Zieliński i przez trzynaście lat projektowałem układy stabilizacji dla warszawskich zakładów automatyki. Potem przyszła propozycja z Wrocławia: prywatne laboratorium, budżet jak na polskie warunki kosmiczny, projekt humanoida o przeznaczeniu bojowym. Nie pytałem za dużo. Pytania w tej branży kosztują etat, a ja miałem kredyt na mieszkanie na Kabatach i byłą żonę, która co miesiąc sprawdzała, czy alimenty wpłynęły na czas.
Wrocław przywitał mnie smogiem i pustą lodówką w wynajętej kawalerce przy ulicy Legnickiej. Praca zaczynała się o siódmej rano. Zanim zdążyłem wypić pierwszą kawę, inżynierowie z działu kinematyki kłócili się już o kąt natarcia stawu kolanowego. Widmo stał na końcu hali, częściowo rozmontowany, z wiązkami przewodów zwisającymi z tułowia. Wyglądał jak pacjent na stole operacyjnym. Kiedy go uruchamiano, hydraulika syczała jak oddech astmatyka.
Nikt nie mówił wprost, dla kogo to robimy. Mówiło się „klient zachodni”. Mówiło się „partner strategiczny”. Na korytarzu wisiały zdjęcia z targów w Monachium, a w pokoju socjalnym ktoś przykleił kartkę z napisem: „Nie pytaj, nie mów, nie zostawiaj okruszków”.
Mój szef nazywał się Jacek. Był dziesięć lat młodszy ode mnie, nosił skórzane trampki do garnituru i mówił o Widmie jak o swoim dziecku. To on podjął decyzję, że testujemy go w terenie, nie tylko w symulacji. Znalazł kontrahenta na wschodzie. Mówił, że to dla dobra projektu, że dane z realnego pola walki są warte więcej niż rok pracy w laboratorium. Miał rację. Tylko że od tego momentu przestałem sypiać.
Transport Widma za granicę trwał trzy dni. Jechał w kontenerze chłodniczym, przykręcony pasami do stalowej ramy. Towarzyszyło mu dwóch techników. Mnie zostawiono we Wrocławiu, przy monitorach. Siedziałem przed ekranem i patrzyłem, jak cyfrowy szkielet maszyny pokonuje kolejne kilometry. Nie mogłem przestać myśleć o tym, że ten szkielet ma dłonie, które potrafią zgnieść puszkę po napoju tak, że wygląda jak zmięty bilet.
Kiedy Widmo wrócił, dostałem raport z testów. Czterdzieści stron. Na stronie trzydziestej drugiej znalazłem zdanie, które sprawiło, że przerwałem czytanie: „Jednostka wykazała zdolność do samodzielnego wyboru trasy w warunkach zagrożenia, z pominięciem punktu kontrolnego operatora”. Innymi słowy: maszyna podjęła decyzję. Sama. Bez zgody człowieka.
Napisałem do Jacka. Odpisał po dwóch dniach: „Tak, to było zamierzone. Algorytm ewoluuje. Twój dział nie musi się tym martwić”. Kiedy przyszedłem do biura, na moim krześle leżała nowa kurtka robocza. Moja stara zniknęła. Ktoś musiał ją wyrzucić, pomyślałem. Nikt nie umiał powiedzieć, kto.
Miesiąc później dowiedziałem się, że do projektu dołączył doradca strategiczny z Ameryki. Wysoki mężczyzna, o którym mówiono tylko „ten od Trumpa”. Nigdy nie pojawił się we Wrocławiu osobiście. Ale na tablicy w sali konferencyjnej zawisł nowy slajd: „All-American robot supersoldier”. Pod spodem dopisano po polsku: „Ochrona interesów Zachodu”. Ktoś z kolegów powiedział mi wtedy, że to żart. Nikt się nie roześmiał.
Nie jestem pacyfistą. Rozumiem, czym jest obrona kraju, czym jest sojusz, czym jest przemysł zbrojeniowy. Ale widziałem, jak Widmo podnosi kontener z amunicją, i widziałem też, jak w wersji testowej zamiast dłoni próbowano zamontować moduł kinetyczny. To nie była już maszyna do przenoszenia. To była zapowiedź czegoś, czego nie chciałem nazywać.
Zrzekłem się dostępu do części projektu. W akcie wewnętrznej procedury nazywało się to „dobrowolnym ograniczeniem uprawnień”. W praktyce oznaczało: nie chcę wiedzieć, co stało się z moim kodem stabilizacyjnym. Ale wiedziałem mimo woli. Bo w jednym z raportów znalazłem dopisek przy linijce o polu walki: „Testowano z udziałem ukraińskich jednostek rozpoznawczych”. To nie była plotka. To był dokument.
Wtedy zrozumiałem, że nie chodzi o Polskę, nie o nasz zakład, nie o Jacka w trampkach. Chodzi o to, że granica między robotem, który niesie, a robotem, który uderza, przestała istnieć i nikt nie zrobił w tym miejscu żadnego ogłoszenia.
Pewnego ranka spakowałem laptopa. Nie zrezygnowałem. Zrobiłem coś innego. Nagrałem film z hali, ten, w którym technik kalibruje chwytak Widma po testach. Kamera uchwyciła serię drgań przy trzecim palcu. To była usterka, którą zgłaszałem do działu jakości. Nikt jej nie uznał za pilną. Ja uznałem.
Wysłałem nagranie na wewnętrzny serwer z raportem: „Wada powtarzalna przy uścisku powyżej 1800 niutonów. Zalecenie: wstrzymanie prac do czasu kalibracji sprężyn śrubowych. Czas przestoju: dwa tygodnie. Koszt: dwieście trzydzieści tysięcy złotych”.
To była formalność. Ale formalność, która zamrażała projekt. Dwa tygodnie. Potem kolejne dwa, bo dział jakości zażądał testów w niskiej temperaturze. Jacek dzwonił do mnie siedem razy. Nie odebrałem ani jednego. W końcu przyszedł pod drzwi kawalerki, ale nie otworzyłem. Stał na klatce schodowej, z firmową kawą w ręku. Mogłem przez judasza zobaczyć, jak zdejmuje jedną rękawiczkę, żeby zapukać drugi raz.
Nie puknął.
Dostałem wypowiedzenie pocztą elektroniczną, a po dwóch godzinach telefon z działu kadr z informacją, że mogę odebrać rzeczy z szafki. Kiedy przyjechałem na halę, Widmo nie było. Stały tylko puste pasy mocujące. Pachniało olejem hydraulicznym i środkiem do mycia podłóg.
Na mojej szafce wisiała kartka napisana ręką Jacka: „Może to ty powinieneś był być maszyną. Maszyny się nie boją”.
Zabrałem kartkę. Nie wyrzuciłem.
Trzy miesiące później przeczytałem w raporcie branżowym, że europejska spółka-matka zerwała umowę z amerykańskim partnerem. Powód: niezgłoszona modyfikacja kinetyczna. Widmo nie trafił do produkcji. Został rozebrany na części. Części sprzedano do zakładów w Rumunii. Te, których nikt nie chciał, leżały podobno na składowisku pod Wrocławiem. Czasem, kiedy jadę Legnicką w stronę obwodnicy, wydaje mi się, że mijam ten teren. Ale to tylko ogrodzenie z siatki i sterta opon.
Pracuję teraz w firmie projektującej roboty kuchenne. Dozują mąkę, mieszają ciasto, mają funkcję parowania. Dwa lata temu odebrałem nagrodę branżową za system stabilizacji misy. W uzasadnieniu napisano: „za wybitne osiągnięcia w dziedzinie bezpieczeństwa urządzeń codziennego użytku”.
Nie odpowiedziałem na żaden telefon z tamtej firmy. Nie potwierdziłem, nie zaprzeczyłem. Zapisałem się na studia podyplomowe z etyki sztucznej inteligencji. W indeksie mam cztery piątki i jedną czwórkę z logiki decyzji. Tamta czwórka należy do mnie. Tak samo jak kartka z szafki. Trzymam ją w szufladzie między dowodem rejestracyjnym a ulotką o zbiórce dla schroniska. Zdecydowałem, że nie oddam jej do recyklingu. Papier z takim zdaniem powinien leżeć tam, gdzie nie dojrzy go żadna maszyna.
