Sztuczna inteligencja na dobre weszła do firm, instytucji i naszego życia: analizuje dane, tworzy treści, wspiera diagnozy, pomaga podejmować decyzje i automatyzuje procesy. Im więcej zadań jej powierzamy, tym ważniejsze staje to, czy rozumiemy, w jaki sposób dochodzi do swoich odpowiedzi?
To pytanie nabiera szczególnego znaczenia teraz, gdy Unia Europejska przechodzi od dyskusji o regulowaniu sztucznej inteligencji do faktycznego wdrażania AI Act - pierwszych tak kompleksowych przepisów dotyczących AI.
Musimy wiedzieć, z kim rozmawiamy
Wcześniej obowiązywały zakazy najbardziej niebezpiecznych zastosowań, ale od tego miesiąca zaczęła być stosowana zasadnicza część rozporządzenia, w tym nowe obowiązki dotyczące przejrzystości: użytkownik powinien zostać poinformowany, kiedy wchodzi w interakcję z systemem AI, a treści wygenerowane lub zmienione przez AI mają być odpowiednio oznaczone.
Europejska regulacja opiera się na prostym założeniu: im większy jest potencjalny wpływ AI na bezpieczeństwo, prawa człowieka lub jego życie, tym większa powinna być odpowiedzialność jego twórców i użytkowników. Znacznie trudniej jest jednak odpowiedzieć na pytanie, jak tę zasadę zastosować w praktyce, czyli:
- Jak wyjaśnić decyzję modelu, którego sposób dochodzenia do wyniku nie jest w pełni przejrzysty nawet dla jego twórców;
- Jak rozłożyć odpowiedzialność pomiędzy dostawcę technologii, organizację, która ją wdraża, i człowieka korzystającego z jej odpowiedzi;
- Czy oznaczenie treści jako wygenerowanej przez AI rzeczywiście chroni odbiorcę, jeśli nie mówi nic o jej prawdziwości.
Właśnie wokół tych pytań zbudowana jest nowa seria podcastu AI Cafe, przygotowana przez Orange Innovation Poland z Polską Izbą Informatyki i Telekomunikacji. To pięć rozmów o tym, co dzieje się między technologiczną obietnicą a rzeczywistym wdrożeniem. Rozmawiamy o zaufaniu, odpowiedzialności, jakości, regulacjach i konsekwencjach decyzji podejmowanych dziś.
Czy można ufać systemowi, którego nie rozumiemy
W pierwszym odcinku prof. Przemysław Biecek opowiada o tzw. wyjaśnialności modeli AI. System może osiągać dobre wyniki, a jednocześnie opierać decyzje na błędnych przesłankach lub zależnościach niemających związku z rzeczywistością. Może również konfabulować, schlebiać użytkownikowi i wzmacniać jego przekonania – przekonująco brzmiąc nawet wtedy, gdy się myli.
W zastosowaniach medycznych, finansowych czy biznesowych skutki takich błędów nie są już teoretyczne. Rozmowa pokazuje, dlaczego wyjaśnialność przestała być dodatkiem do technologii, a stała się jednym z warunków odpowiedzialnego korzystania z niej. Odpowiedzialność powinna zaczynać się nie na etapie gotowego produktu, lecz już przy wyborze danych, projektowaniu modelu i określaniu sposobu jego testowania.
Czy oznaczenie treści AI nas chroni
Gośćmi drugiego odcinka są Piotr Brzyski i prof. Michał Jackowski, którzy uczestniczyli w europejskich konsultacjach nad Code of Practice do AI Act. Rozmawiają o tym, co dzieje się, gdy stosunkowo proste oczekiwania prawa spotykają się ze znacznie bardziej skomplikowaną technologią.
Przykładem jest znakowanie treści generowanych przez AI. To pomoże w identyfikacji materiału, ale zmotywowany sprawca może próbować go usunąć lub ominąć. Detektory również popełniają błędy: tekst historyczny mogą uznać za wygenerowany przez maszynę, a materiał stworzony przez AI - za dzieło człowieka. Pojawia się także pytanie o odpowiedzialność za autonomicznych agentów tworzących kolejnych agentów. Ten odcinek pokazuje, że regulacja jest potrzebna, ale jej skuteczność zależy od możliwości technicznych i sposobu wdrożenia.
Czy szybsze tworzenie oprogramowania daje lepsze produkty
W trzeciej rozmowie Michał Paluśkiewicz z Websensa przygląda się zmianom, jakie generatywna AI wprowadza w świecie oprogramowania. Technologia skraca czas tworzenia i obniża próg wejścia, a klient coraz częściej może samodzielnie wykonać część pracy dotąd zlecanej wyspecjalizowanym firmom. Nie oznacza to jednak, że znika złożoność. Zmienia się jedynie miejsce, w którym trzeba się z nią zmierzyć.
Centralnym wątkiem jest granica pomiędzy vibe codingiem a inżynierią. Szybko wygenerowany prototyp może wyglądać jak działający produkt, lecz nadal potrzebuje architektury, specyfikacji, testów i kontroli jakości. AI pozwala dostarczać kod szybciej, ale może utrudnić jego późniejsze zrozumienie i osłabiać kompetencje zespołu. Ostatecznie odpowiedzialność za produkt pozostaje po stronie człowieka.
AI wzmacnia organizację, a może zaczyna nią sterować
Czwarty odcinek, którego gościem jest Wojciech Ozimek z One2tribe, przenosi dyskusję z technologii na sposób działania organizacji. Klasyczne podejście do automatyzacji, oparte na procesach, wskaźnikach i optymalizacji, może nie wystarczyć w świecie, którego złożoność rośnie szybciej niż firmowe procedury.
Alternatywą jest kolektywna inteligencja: zdolność ludzi, zespołów i technologii do wspólnego uczenia się oraz wykorzystywania rozproszonej wiedzy. AI może tę zdolność wzmacniać, ale nie zastąpi kontekstu, sprawczości i odpowiedzialności człowieka. Rozmowa pokazuje również ciemniejszą stronę optymalizacji - moment, w którym system przestaje wspierać pracownika, a zaczyna nim sterować i traktować go jak kolejny element procesu.
Dlaczego AI wymaga większej zmiany niż zakup technologii
W ostatnim odcinku prof. Dariusz Jemielniak rozszerza perspektywę na organizacje i społeczeństwo. Popkultura przyzwyczaiła nas do dwóch skrajnych obrazów AI: technologii, która rozwiąże wszystkie problemy, albo siły prowadzącej do katastrofy. Tymczasem najważniejsze skutki jej działania są często mniej widowiskowe i znacznie bardziej codzienne.
Rozmowa dotyczy m.in. efektu Mateusza, czyli mechanizmu, przez który AI może wzmacniać istniejące nierówności. Pokazuje też, dlaczego wiele wdrożeń kończy się porażką: firmy próbują dołączyć nowe narzędzie do starego sposobu działania, zamiast zmienić całą organizację. Powraca również pytanie o odpowiedzialność. I o to, czy świat technologii nie potrzebuje odpowiednika kierownika budowy: osoby z realną autonomią i zawodową odpowiedzialnością za powstający system.
AI Cafe nie tworzy instrukcji bezpiecznego wdrażania sztucznej inteligencji. Tworzy coś dziś równie potrzebnego: mapę pytań, które należy zadać, zanim zachwyt nad możliwościami technologii przesłoni jej ograniczenia i konsekwencje.
Zapraszamy do wysłuchania całej serii AI Cafe.
