Jak zarządzać ryzykiem związanym ze sztuczną inteligencją

Zarządzanie ryzykiem stało się integralną częścią biznesu i władzy. Firmy zatrudniają specjalistów do spraw ryzyka w celu zi­dentyfikowania i złagodzenia potencjalnych zagrożeń, począwszy od zagrożeń dla bezpieczeństwa cyberne­tycznego, po zakłócenia łańcucha dostaw. Pojawienie się nowych technologii zwiększyło potrzebę zachowa­nia czujności i zdolności adaptacyjnych przez osoby zarządzające ryzykiem.

Potrzeba skutecznego zarządzania ryzykiem

Managerowie ds. ryzyka muszą być w stanie ziden­tyfikować i ocenić ryzyko związane z nowymi tech­nologiami, a także wdrażać skuteczne strategie za­rządzania ryzykiem mające na celu jego ograniczenie. Jednocześnie, muszą być otwarci na nowe rozwiązania oferowane przez pojawiające się technologie, aby wy­przedzać konkurencję i skutecznie zarządzać ryzykiem w szybko zmieniającym się świecie.

Ekspansja sztucznej inteligencji (AI) jest tego przy­kładem. Przyniosło to rosnącą potrzebę skutecznego zarządzania ryzykiem w celu radzenia sobie z różnymi problemami, od technicznych – takich jak awarie algo­rytmów, po etyczne – w tym stronniczość w podejmo­waniu decyzji. AI ma potencjał, by zrewolucjonizować wiele gałęzi przemysłu i zmienić nasze życie na lepsze, jednak ryzyko związane z jej wykorzystaniem musi być dokładnie przemyślane i zarządzane.

Nowa norma ISO/IEC 23894

Nowa norma ISO/IEC zapewnia podstawowe wy­tyczne dotyczące zarządzania ryzykiem dla organizacji wszystkich rozmiarów i typów, które wykorzystują AI w swoich systemach lub procesach. ISO/IEC 23894 pokazuje użytkownikom, jak skutecznie zarządzać ry­zykiem związanym z wykorzystaniem AI, aby osiągnąć cele i poprawić wydajność.

Ramy dla zarządzania ryzykiem

Nowa norma dostosowuje i rozwija wytyczne oraz ogólne zasady zarządzania ryzykiem opisane w ISO 31000. Przedstawia ona ramy zarządzania ry­zykiem, które wymagają od użytkowników ustalenia kontekstu oraz identyfikacji, analizy, oceny, monito­rowania i przeglądu ryzyka.

Ustalanie kontekstu wiąże się z określeniem celów organizacji oraz ryzyka mogącego wpływać na te cele, a także potrzeb i oczekiwań interesariuszy, na których to ryzyko będzie miało wpływ. Identyfikacja ryzyka to wskazanie potencjalnego ryzyka mogącego wpłynąć na cele organizacji, w tym ryzyka związane z działalnością firmy, procesami i czynnikami zewnętrznymi.

ISO/IEC 23894 zapewnia ustrukturyzowane po­dejście do zarządzania ryzykiem, które może pomóc organizacjom w identyfikacji ryzyka, jego ocenie i prze­ciwdziałaniu mu w sposób proaktywny i skuteczny. Oferuje ramy i zasady zapewniające, że systemy AI działają bezpiecznie i przejrzyście, unikając jednocze­śnie potencjalnych zagrożeń i negatywnych konse­kwencji […].

Całość artykułu dostępna w majowym numerze „Wiadomości PKN 5/2023”