Gotowość na regulacje dot. AI. Firmy oczekują wsparcia od dostawców technologii

Jeszcze pod koniec 2023 r. co dziesiąte przedsiębiorstwo nie miało żadnego planu w zakresie dostosowania swoich technologii AI do krajowych i międzynarodowych regulacji – wynika z raportu SAS „AI Readiness: how organizations are preparing for the new requirements”. Aż w 44 proc. przypadków powodem tego stanu rzeczy był brak zrozumienia zapowiadanych przepisów. Wsparcia w zapewnieniu zgodności z nowymi regulacjami biznes oczekuje od dostawców technologii.

Biznes pokłada nadzieję w dostawcach AI 

Popularyzacja rozwiązań sztucznej inteligencji wymaga uregulowania i uporządkowania zasad stosowania systemów i aplikacji opartych na AI. Na poziomie Unii Europejskiej próbą wprowadzenia stosownej legislacji jest rozporządzenie AI Act, które Parlament Europejski przyjął w połowie marca. Państwa niezrzeszone w UE, takie jak Wielka Brytania, opracowują własne strategie zarządzania rozwojem AI.

Pozostaje więc pytanie, czy organizacje są przygotowane na nowe regulacje. Kwestię tę zbadała firma SAS, a wyniki opublikowane zostały w raporcie „AI Readiness: how organizations are preparing for the new requirements” przeprowadzonym wśród przedstawicieli firm z państw Europy Północnej. Z odpowiedzi ankietowanych wynika, że wykazują się oni dużą dozą pewności w zakresie zgodności swoich rozwiązań z nowymi lub zapowiadanymi przepisami. Prawie połowa ankietowanych wyraziła daleko idące przekonanie, że ich oprogramowanie wykorzystujące AI spełni wymogi regulacyjne, a 36 proc. – była o tym przekonana do pewnego stopnia.

Warto przeanalizować źródło tych postaw. Podczas gdy 30 proc. firm w momencie przeprowadzania badania deklarowało, że ich oprogramowanie było już zgodne z wymogami dot. AI, to aż 42 proc. stwierdziło, że uzyskało od dostawcy technologii deklarację o zapewnieniu zgodności z przyszłymi przepisami.

Badanie wykazało też, że w procesy zagwarantowania zgodności oprogramowania z regulacjami dot. AI organizacje są bardziej skłonne zaangażować obecnego partnera, czyli dostawcę technologii (66 proc. wskazań), niż wewnętrzne zespoły prawne czy zewnętrznych konsultantów (po 57 proc.)

Niestety, istnieje też pewna – na szczęście stosunkowo wąska – grupa badanych organizacji, które do pociągu o nazwie „AI compliance” nawet nie wsiadły. 12 proc. uczestników badania SAS nie zainicjowało procesów dostosowawczych – najczęściej z powodu braku zasobów i kompetencji (72 proc. wskazań), braku wsparcia zewnętrznego dostawcy (48 proc.) i braku zrozumienia nowych regulacji (44 proc.).

Odpowiedzialność współdzielona – także w obszarze AI

Na dostawcach technologii spoczywa więc ogromna odpowiedzialność. Po pierwsze, muszą zadbać o jakość wytwarzanego przez siebie oprogramowania – opracowywać modele sztucznej inteligencji w sposób etyczny, wiarygodny, transparentny, minimalizujący ryzyko nieprawidłowych, zafałszowanych wyników. Na poziomie technologicznym chodzi m.in. o wyjaśnianie i precyzyjne komunikowanie schematów działania algorytmów AI i wdrażanie procedur zarządzania AI i danymi, a na poziomie operacyjno-procesowym – o wytworzenie kultury organizacyjnej promującej wartości zgodne z zasadami i strategią organizacji.

Po drugie, dostawcy muszą adresować wysokie oczekiwania klientów, potrzebujących wsparcia w zakresie prawidłowego wdrażania i utrzymania systemów.

„Sztuczna inteligencja jest prawdopodobnie najpotężniejszą i najbardziej transformacyjną technologią, jaką widzieliśmy w tym pokoleniu” – napisał Iain Brown, dyrektor działu Data Science w SAS Northern Europe, w komentarzu do wyników badania „AI Readiness”. „Dlatego organizacje bardziej niż kiedykolwiek muszą zachować należytą staranność przy wyborze dostawcy. Potrzebują zaufanego partnera, który może doradzić w zakresie przyjęcia najlepszych praktyk w całej organizacji i ma możliwość tworzenia godnych zaufania rozwiązań AI”.

„Ponadto ważne jest, aby wspierać odpowiedzialność w firmie. Szkolenie personelu i świadomość dotycząca wykorzystania danych muszą mieć mocne oparcie w zasadach zarządzania nimi, w tym w ich jakości i pochodzeniu. Kluczowe jest również ustanowienie solidnego zarządzania modelami, aby stale monitorować zestaw modeli używanych w całej organizacji i zapewnić, że wyniki minimalizują potencjalną stronniczość” – dodał Iain Brown.

Jak osiągnąć gotowość na AI?

Rozwiązania sztucznej inteligencji otwierają przed biznesem możliwości uruchomienia zupełnie nowych strumieni przychodowych. Tylko od dojrzałości organizacji zależy, kiedy i w jakim stopniu projekty eksperymentalne – które wiele organizacji już prowadzi – przejdą z fazy testów do etapu finalnego wdrożenia. Raport SAS wyszczególnia cztery kroki, które mogą przyśpieszyć osiągnięcie gotowości na AI:

• Wczesne planowanie - wejście w życie regulacji dot. AI wymaga od organizacji szybkiego zainicjowania działań dostosowawczych, które zapewnią im operacyjną zgodność z nowymi regulacjami. Działania te należy już teraz podjąć w obszarach stosowanych w organizacji technologii oraz polityk, procedur i procesów obowiązujących personel.
• Koordynacja działań - zapewnienie zgodności z regulacjami jest wysiłkiem zbiorowym, dlatego warto rozważyć powołanie w organizacji komitetu sterującego bądź jednostki koordynacyjnej reprezentującej poszczególne piony przedsiębiorstwa. Zespół może trzymać rękę na pulsie postępów technologicznych i zmian legislacyjnych oraz współpracować z kontrahentami i partnerami.
• Wybór właściwego dostawcy - narzędzia sztucznej inteligencji należy rozwijać tak, aby sugerowane przez AI rozwiązania problemów były odpowiedzialne, transparentne, możliwe do wyjaśnienia i zgodne z prawem. Organizacje powinny więc współpracować z tymi dostawcami technologii, którzy na pierwszym miejscu stawiają odpowiedzialne innowacje.

Łatanie luk kompetencyjnych - wdrożenie platform low code / no code pozwoli większej liczbie pracowników eksperymentować ze sztuczną inteligencją. Personel nietechniczny otrzyma narzędzia do opracowywania swoich modeli w ścisłych i zgodnych z przepisami ramach, dzięki czemu specjaliści ds. danych mogą skoncentrować się na najważniejszych kwestiach związanych z regulacjami i innowacjami