LIPCOWY NUMER „WIADOMOŚCI PKN”
Rozwój sztucznej inteligencji w ostatnich latach koncentrował się przede wszystkim na zwiększaniu możliwości kolejnych modeli. Systemy AI coraz lepiej analizują dane, tworzą teksty i obrazy oraz wspomagają pracę człowieka. Znajdują też zastosowanie w przemyśle, edukacji, medycynie, transporcie i administracji.
Wraz z upowszechnieniem sztucznej inteligencji coraz większego znaczenia nabiera pytanie, czy można jej zaufać. Ma ono szczególne znaczenie wówczas, gdy system AI nie tylko wspiera człowieka, lecz także samodzielnie planuje działania i podejmuje decyzje. Takie możliwości mają systemy agentowej sztucznej inteligencji. Potrafią analizować sytuację, wybierać sposób postępowania, wykonywać kolejne zadania i oceniać ich rezultaty. Ich zastosowanie może usprawnić wiele procesów, ale może również ograniczyć kontrolę człowieka nad sposobem wykonywania tych zadań.
Kto odpowiada za decyzję podjętą przez system AI? Czy można ustalić, dlaczego system wybrał określone rozwiązanie? Jak zapewnić jego właściwe działanie w sytuacji, której wcześniej nie przewidziano? Są to problemy, z którymi już mierzą się przedsiębiorstwa wykorzystujące sztuczną inteligencję. Błędne działanie systemu może prowadzić do utraty danych, naruszenia przepisów, strat finansowych, a w niektórych przypadkach także do zagrożenia zdrowia lub bezpieczeństwa ludzi. Nie wystarczy więc sprawdzić, czy dane rozwiązanie jest skuteczne. Trzeba również określić zasady jego działania, zakres odpowiedzialności oraz sposób sprawowania nad nim nadzoru.
Unijny Akt w sprawie sztucznej inteligencji wprowadza wymagania dotyczące bezpieczeństwa, przejrzystości i nadzoru nad systemami AI. Szczególne obowiązki dotyczą systemów wykorzystywanych w obszarach wysokiego ryzyka. Spełnienie tych wymagań będzie wymagało zastosowania odpowiednich rozwiązań technicznych i organizacyjnych. Pomocne w tym zakresie będą normy zharmonizowane opracowywane na potrzeby AI Act. Prace nad nimi przynoszą już konkretne rezultaty. W ostatnich dniach pomyślnie zakończyło się formalne głosowanie nad EN 18286 dotyczącą systemu zarządzania jakością dla AI. Norma ma wspierać organizacje w spełnianiu wymagań dotyczących systemów sztucznej inteligencji, a jej publikację zaplanowano na lipiec 2026 r.
W bieżącym numerze piszemy o wykorzystaniu AI w robotach humanoidalnych, rozszerzonej rzeczywistości i systemach kolejowych, a także o zaufaniu do wymiany danych. Każde z tych zastosowań wymaga odpowiedzi na te same pytania: jak korzystać z możliwości sztucznej inteligencji, nie tracąc nad nią kontroli? Jaką rolę w budowaniu zaufania do AI ma do odegrania normalizacja?