Sztuczna inteligencja działa, ale czy rozumiecie co robi

Sztuczna inteligencja na dobre weszła do firm, instytucji i naszego życia: analizuje dane, tworzy treści, wspiera diagnozy, pomaga podejmować decyzje i automatyzuje procesy. Im więcej zadań jej powierzamy, tym ważniejsze staje to, czy rozumiemy, w jaki sposób dochodzi do swoich odpowiedzi?

To pytanie nabiera szczególnego znaczenia teraz, gdy Unia Europejska przechodzi od dyskusji o regulowaniu sztucznej inteligencji do faktycznego wdrażania AI Act - pierwszych tak kompleksowych przepisów dotyczących AI.

Musimy wiedzieć, z kim rozmawiamy

Wcześniej obowiązywały zakazy najbardziej niebezpiecznych zastosowań, ale od tego miesiąca zaczęła być stosowana zasadnicza część rozporządzenia, w tym nowe obowiązki dotyczące przejrzystości: użytkownik powinien zostać poinformowany, kiedy wchodzi w interakcję z systemem AI, a treści wygenerowane lub zmienione przez AI mają być odpowiednio oznaczone.

Europejska regulacja opiera się na prostym założeniu: im większy jest potencjalny wpływ AI na bezpieczeństwo, prawa człowieka lub jego życie, tym większa powinna być odpowiedzialność jego twórców i użytkowników. Znacznie trudniej jest jednak odpowiedzieć na pytanie, jak tę zasadę zastosować w praktyce, czyli:

• Jak wyjaśnić decyzję modelu, którego sposób dochodzenia do wyniku nie jest w pełni przejrzysty nawet dla jego twórców;
• Jak rozłożyć odpowiedzialność pomiędzy dostawcę technologii, organizację, która ją wdraża, i człowieka korzystającego z jej odpowiedzi;
• Czy oznaczenie treści jako wygenerowanej przez AI rzeczywiście chroni odbiorcę, jeśli nie mówi nic o jej prawdziwości.

Właśnie wokół tych pytań zbudowana jest nowa seria podcastu AI Cafe, przygotowana przez Orange Innovation Poland z Polską Izbą Informatyki i Telekomunikacji. To pięć rozmów o tym, co dzieje się między technologiczną obietnicą a rzeczywistym wdrożeniem. Rozmawiamy o zaufaniu, odpowiedzialności, jakości, regulacjach i konsekwencjach decyzji podejmowanych dziś.

Czy można ufać systemowi, którego nie rozumiemy

W pierwszym odcinku prof. Przemysław Biecek opowiada o tzw. wyjaśnialności modeli AI. System może osiągać dobre wyniki, a jednocześnie opierać decyzje na błędnych przesłankach lub zależnościach niemających związku z rzeczywistością. Może również konfabulować, schlebiać użytkownikowi i wzmacniać jego przekonania – przekonująco brzmiąc nawet wtedy, gdy się myli.

W zastosowaniach medycznych, finansowych czy biznesowych skutki takich błędów nie są już teoretyczne. Rozmowa pokazuje, dlaczego wyjaśnialność przestała być dodatkiem do technologii, a stała się jednym z warunków odpowiedzialnego korzystania z niej. Odpowiedzialność powinna zaczynać się nie na etapie gotowego produktu, lecz już przy wyborze danych, projektowaniu modelu i określaniu sposobu jego testowania.

Czy oznaczenie treści AI nas chroni

Gośćmi drugiego odcinka są Piotr Brzyski i prof. Michał Jackowski, którzy uczestniczyli w europejskich konsultacjach nad Code of Practice do AI Act. Rozmawiają o tym, co dzieje się, gdy stosunkowo proste oczekiwania prawa spotykają się ze znacznie bardziej skomplikowaną technologią.

Przykładem jest znakowanie treści generowanych przez AI. To pomoże w identyfikacji materiału, ale zmotywowany sprawca może próbować go usunąć lub ominąć. Detektory również popełniają błędy: tekst historyczny mogą uznać za wygenerowany przez maszynę, a materiał stworzony przez AI - za dzieło człowieka. Pojawia się także pytanie o odpowiedzialność za autonomicznych agentów tworzących kolejnych agentów. Ten odcinek pokazuje, że regulacja jest potrzebna, ale jej skuteczność zależy od możliwości technicznych i sposobu wdrożenia.

Czy szybsze tworzenie oprogramowania daje lepsze produkty

W trzeciej rozmowie Michał Paluśkiewicz z Websensa przygląda się zmianom, jakie generatywna AI wprowadza w świecie oprogramowania. Technologia skraca czas tworzenia i obniża próg wejścia, a klient coraz częściej może samodzielnie wykonać część pracy dotąd zlecanej wyspecjalizowanym firmom. Nie oznacza to jednak, że znika złożoność. Zmienia się jedynie miejsce, w którym trzeba się z nią zmierzyć.

Centralnym wątkiem jest granica pomiędzy vibe codingiem a inżynierią. Szybko wygenerowany prototyp może wyglądać jak działający produkt, lecz nadal potrzebuje architektury, specyfikacji, testów i kontroli jakości. AI pozwala dostarczać kod szybciej, ale może utrudnić jego późniejsze zrozumienie i osłabiać kompetencje zespołu. Ostatecznie odpowiedzialność za produkt pozostaje po stronie człowieka.

AI wzmacnia organizację, a może zaczyna nią sterować

Czwarty odcinek, którego gościem jest Wojciech Ozimek z One2tribe, przenosi dyskusję z technologii na sposób działania organizacji. Klasyczne podejście do automatyzacji, oparte na procesach, wskaźnikach i optymalizacji, może nie wystarczyć w świecie, którego złożoność rośnie szybciej niż firmowe procedury.

Alternatywą jest kolektywna inteligencja: zdolność ludzi, zespołów i technologii do wspólnego uczenia się oraz wykorzystywania rozproszonej wiedzy. AI może tę zdolność wzmacniać, ale nie zastąpi kontekstu, sprawczości i odpowiedzialności człowieka. Rozmowa pokazuje również ciemniejszą stronę optymalizacji - moment, w którym system przestaje wspierać pracownika, a zaczyna nim sterować i traktować go jak kolejny element procesu.

Dlaczego AI wymaga większej zmiany niż zakup technologii

W ostatnim odcinku prof. Dariusz Jemielniak rozszerza perspektywę na organizacje i społeczeństwo. Popkultura przyzwyczaiła nas do dwóch skrajnych obrazów AI: technologii, która rozwiąże wszystkie problemy, albo siły prowadzącej do katastrofy. Tymczasem najważniejsze skutki jej działania są często mniej widowiskowe i znacznie bardziej codzienne.

Rozmowa dotyczy m.in. efektu Mateusza, czyli mechanizmu, przez który AI może wzmacniać istniejące nierówności. Pokazuje też, dlaczego wiele wdrożeń kończy się porażką: firmy próbują dołączyć nowe narzędzie do starego sposobu działania, zamiast zmienić całą organizację. Powraca również pytanie o odpowiedzialność. I o to, czy świat technologii nie potrzebuje odpowiednika kierownika budowy: osoby z realną autonomią i zawodową odpowiedzialnością za powstający system.

AI Cafe nie tworzy instrukcji bezpiecznego wdrażania sztucznej inteligencji. Tworzy coś dziś równie potrzebnego: mapę pytań, które należy zadać, zanim zachwyt nad możliwościami technologii przesłoni jej ograniczenia i konsekwencje.

Zapraszamy do wysłuchania całej serii AI Cafe.

---