Mówi: | Grzegorz Rutkiewicz |
Funkcja: | współzałożyciel i dyrektor zarządzający |
Firma: | Samurai Labs |
Sztuczna inteligencja może moderować wpisy zawierające przemoc jeszcze przed ich publikacją. W przyszłości pozwoli zapobiegać czynom pedofilskim czy agitacji terrorystów
Algorytmy sztucznej inteligencji są już w stanie wykrywać agresywne zachowania w sieci z 97-proc. skutecznością. Pozwala na to sztuczna inteligencja trzeciej fali, która polega na integracji uczenia maszynowego z ingerencją człowieka w schemat działania. Dotychczas SI również wykrywała niebezpieczne zachowania, lecz tylko z 50-proc. skutecznością, więc każdy wysyłany przez nią alert musiał być zatwierdzony przez człowieka. Nowe podejście do budowania algorytmów pomoże nie tylko zapobiegać agresji słownej w sieci, ale również ostrzegać przed możliwą próbą samobójczą, a także działaniem pedofila czy terrorysty.
– Wprowadziliśmy nową metodę sztucznej inteligencji, która pozwala na reagowanie w czasie rzeczywistym. To jest sztuczna inteligencja, która potrafi na bieżąco albo usunąć treść, albo zareagować w inny sposób. Oczywiście najgorsze przekazy powinny zostać zablokowane, zanim dotrą. W zależności od regulaminu danego forum oraz od skali przemocy czy toksyczności danej treści jesteśmy w stanie również napomnieć osobę, która taką treść pisze, i wspomóc kogoś, kto taką treść dostaje, albo włączyć się do rozmowy jako czatbot, który w imieniu forum lub jako tajemniczy użytkownik będzie napominał lub włączał się w moderowanie automatycznie – tłumaczy w rozmowie z agencją informacyjną Newseria Innowacje Grzegorz Rutkiewicz, współzałożyciel i dyrektor zarządzający Samurai Labs.
Dotychczas sztuczna inteligencja mogła być wykorzystywana jako wsparcie w moderowaniu już istniejących w sieci wpisów. SI uczyła się dotąd na gotowych wzorcach, zatem jej sugestie opatrzone były dość dużym, bo aż 50-proc. błędem. Algorytmy stworzone przez Samurai Labs są rewolucyjne, ponieważ opierają się nie tylko na uczeniu maszynowym, lecz także doświadczeniach człowieka. W efekcie margines błędu wynosi zaledwie 3 proc. Dzięki temu sztuczna inteligencja może samodzielnie moderować treści, a nie czekać na interwencję moderatora. Takie podejście do budowania algorytmów nazywane jest neurosymbolicznym lub trzecią falą sztucznej inteligencji.
– Wykracza ona poza to, co jest obecnie standardem sztucznej inteligencji, czyli machine learningu. Machine learning polega na nauczeniu algorytmu, czyli wyuczeniu go na podstawie bardzo dużej ilości danych, które zostały przez ludzi oznaczone. Natomiast nie ma możliwości ręcznego zaingerowania w jego mechanizm tak, żeby uznać jakieś wyjątki, dodać nowe dane. Rozwinięcie takiego algorytmu odbywa się tylko przez kolejne iteracje uczenia go na coraz większych próbach danych. W naszym podejściu łączymy uczenie maszynowe z działaniem mechanizmu zaprojektowanego przez ludzi, w który możemy ingerować i na bieżąco uczyć go, wspomagając proces decyzyjny wiedzą ekspertów – wyjaśnia Grzegorz Rutkiewicz.
Trzecia fala sztucznej inteligencji została wykorzystana m.in. przez kalifornijski start-up do zbudowania platformy cyberbezpieczeństwa MixMode. Jest ona w stanie wykrywać ataki zero-day bez podpisu w czasie rzeczywistym. SI tworzy w MixMode ewoluującą, opartą na zachowaniu linię bazową sieci, co sprawia, że nie trzeba tworzyć reguł dla alertów.
Nowe podejście do budowania algorytmów wykorzystują także Polacy. I to nie tylko do wykrywania przemocy i wzmacniania zabezpieczeń sieci.
– Możemy także identyfikować innego rodzaju zagrożenia. W tym momencie rozwijamy również możliwość detekcji zachowań pedofilskich w internecie. Potrafimy też wykrywać myśli samobójcze wśród użytkowników internetu. Jeżeli jest osoba, która – co jest szczególnie istotne teraz w czasie pandemii koronawirusa – pisze, że szuka sposobu, żeby zakończyć swoje życie, to są sygnały, które wysyła światu. Jesteśmy je w stanie zidentyfikować i możemy sprawić, że taki automat, który będzie analizował bardzo duże ilości danych z różnych forów czy mediów społecznościowych, będzie w stanie to wychwycić i w porę kogoś zaalarmować. Chcemy także w niedalekiej przyszłości wykrywać te same treści w rozmowach głosowych. Będziemy też rozszerzać ich detekcję na przykład pod kątem nowych zagrożeń – zapowiada ekspert z Samurai Labs.
Według Mordor Intelligence światowy rynek sztucznej inteligencji w cyberbezpieczeństwie osiągnął w 2020 roku przychody na poziomie ponad 5 mld dol. Do 2026 roku rynek ma zwiększyć swoją wartość do ponad 14 mld dol.
Czytaj także
- 2025-06-27: Rośnie skala agresji na polskich drogach. Problemem jest nie tylko nadmierna prędkość, ale też jazda na zderzaku
- 2025-07-04: Marcelina Zawadzka: Uwielbiam zakupy online. Kiedy mały wieczorem zasypia, to ja mam wtedy czas na przeglądanie ofert w sieci
- 2025-06-12: Wakacje wyzwaniem dla operatorów komórkowych. W najpopularniejszych kurortach ruch w sieci rośnie nawet pięciokrotnie
- 2025-06-13: Hejt w sieci dotyka coraz więcej dzieci w wieku szkolnym. Rzadko mówią o tym dorosłym
- 2025-06-10: Polska może dołączyć do globalnych liderów sztucznej inteligencji. Jednym z warunków jest wsparcie od sektora publicznego
- 2025-06-12: Nowe technologie mogą wspierać samoleczenie. Szczególnie pomocne są dane zbierane przez aplikacje i urządzenia mobilne
- 2025-05-27: Globalny sektor finansowy mocniej otwiera się na blockchain. Nowe regulacje likwidują kolejne bariery na rynku
- 2025-05-23: Kolejne 9 mld zł trafi na budowę i modernizację sieci energetycznych. Inwestycje pomogą wyeliminować ryzyko blackoutu
- 2025-05-27: SUV-y dominują rynek motoryzacyjny. Hyundai wprowadzi latem do sprzedaży nowy siedmioosobowy model
- 2025-06-23: Bartłomiej Nowosielski: Osoby z chorobą otyłościową są stygmatyzowane. Hejterów nie obchodzi to, że po drugiej stronie jest człowiek z emocjami
Więcej ważnych informacji
Jedynka Newserii

Bankowość

Rośnie liczba i wartość udzielonych konsumentom kredytów gotówkowych. Gorzej mają się kredyty ratalne oraz te udzielane firmom
Rynek kredytowy w Polsce co do zasady rośnie, choć nierównomiernie. Z danych Biura Informacji Kredytowej wynika, że najlepiej rozwija się segment kredytów gotówkowych dla konsumentów. Wartościowo wzrosła też kwota udzielonych limitów w kartach kredytowych. Według prognoz BIK w całym roku wzrośnie wartość zarówno udzielonych kredytów mieszkaniowych, jak i gotówkowych, choć tych pierwszych poniżej inflacji. Wcześniejsze cięcia stóp procentowych przez RPP nie zmieniły tej prognozy.
Transport
37,5 proc. środków z Planu Społeczno-Klimatycznego trafi na walkę z ubóstwem transportowym. Organizacje branżowe apelują o zmianę priorytetowych projektów [DEPESZA]

Ministerstwo Funduszy i Polityki Regionalnej z końcem czerwca zakończyło konsultacje Planu Społeczno-Klimatycznego, który otwiera drogę do pozyskania 65 mld zł (11,4 mld euro) z unijnego Społecznego Funduszu Klimatycznego. Polska będzie jego największym beneficjentem, a 37,5 proc. budżetu zostanie przeznaczone na bezpośrednie wsparcie osób narażonych na ubóstwo transportowe. Organizacje branżowe oceniają jednak, że walka z tym zjawiskiem może się okazać nieskuteczna. W toku konsultacji zgłosiły swoje zastrzeżenia co do priorytetów w wydatkach i sposobu wsparcia inwestycji w transport rowerowy.
Konsument
Proces deregulacji nie dotyczy branży tytoniowej. Jest propozycja kolejnej ustawy w ciągu kilku miesięcy

Najpierw wprowadzenie podatku akcyzowego na saszetki nikotynowe, potem propozycja przepisów, które zmierzają do wycofania tych produktów z rynku – przedstawiciele środowisk biznesowych podkreślają, że przygotowywane przez resort zdrowia przepisy wprowadzają chaos legislacyjny w branży tytoniowej. To tym bardziej dziwi przedsiębiorców, że stoi w opozycji do prowadzonego przez rząd procesu deregulacji w gospodarce. W dodatku może mieć negatywne skutki dla budżetu państwa i doprowadzić do skokowego wzrostu szarej strefy.
Szkolenia

Akademia Newserii
Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.