Newsy

Sztuczna inteligencja może moderować wpisy zawierające przemoc jeszcze przed ich publikacją. W przyszłości pozwoli zapobiegać czynom pedofilskim czy agitacji terrorystów

2021-05-17  |  06:00

Algorytmy sztucznej inteligencji są już w stanie wykrywać agresywne zachowania w sieci z 97-proc. skutecznością. Pozwala na to sztuczna inteligencja trzeciej fali, która polega na integracji uczenia maszynowego z ingerencją człowieka w schemat działania. Dotychczas SI również wykrywała niebezpieczne zachowania, lecz tylko z 50-proc. skutecznością, więc każdy wysyłany przez nią alert musiał być zatwierdzony przez człowieka. Nowe podejście do budowania algorytmów pomoże nie tylko zapobiegać agresji słownej w sieci, ale również ostrzegać przed możliwą próbą samobójczą, a także działaniem pedofila czy terrorysty.

– Wprowadziliśmy nową metodę sztucznej inteligencji, która pozwala na reagowanie w czasie rzeczywistym. To jest sztuczna inteligencja, która potrafi na bieżąco albo usunąć treść, albo zareagować w inny sposób. Oczywiście najgorsze przekazy powinny zostać zablokowane, zanim dotrą. W zależności od regulaminu danego forum oraz od skali przemocy czy toksyczności danej treści jesteśmy w stanie również napomnieć osobę, która taką treść pisze, i wspomóc kogoś, kto taką treść dostaje, albo włączyć się do rozmowy jako czatbot, który w imieniu forum lub jako tajemniczy użytkownik będzie napominał lub włączał się w moderowanie automatycznie – tłumaczy w rozmowie z agencją informacyjną Newseria Innowacje Grzegorz Rutkiewicz, współzałożyciel i dyrektor zarządzający Samurai Labs.

Dotychczas sztuczna inteligencja mogła być wykorzystywana jako wsparcie w moderowaniu już istniejących w sieci wpisów. SI uczyła się dotąd na gotowych wzorcach, zatem jej sugestie opatrzone były dość dużym, bo aż 50-proc. błędem. Algorytmy stworzone przez Samurai Labs są rewolucyjne, ponieważ opierają się nie tylko na uczeniu maszynowym, lecz także doświadczeniach człowieka. W efekcie margines błędu wynosi zaledwie 3 proc. Dzięki temu sztuczna inteligencja może samodzielnie moderować treści, a nie czekać na interwencję moderatora. Takie podejście do budowania algorytmów nazywane jest neurosymbolicznym lub trzecią falą sztucznej inteligencji.

– Wykracza ona poza to, co jest obecnie standardem sztucznej inteligencji, czyli machine learningu. Machine learning polega na nauczeniu algorytmu, czyli wyuczeniu go na podstawie bardzo dużej ilości danych, które zostały przez ludzi oznaczone. Natomiast nie ma możliwości ręcznego zaingerowania w jego mechanizm tak, żeby uznać jakieś wyjątki, dodać nowe dane. Rozwinięcie takiego algorytmu odbywa się tylko przez kolejne iteracje uczenia go na coraz większych próbach danych. W naszym podejściu łączymy uczenie maszynowe z działaniem mechanizmu zaprojektowanego przez ludzi, w który możemy ingerować i na bieżąco uczyć go, wspomagając proces decyzyjny wiedzą ekspertów – wyjaśnia Grzegorz Rutkiewicz.

Trzecia fala sztucznej inteligencji została wykorzystana m.in. przez kalifornijski start-up do zbudowania platformy cyberbezpieczeństwa MixMode. Jest ona w stanie wykrywać ataki zero-day bez podpisu w czasie rzeczywistym. SI tworzy w MixMode ewoluującą, opartą na zachowaniu linię bazową sieci, co sprawia, że nie trzeba tworzyć reguł dla alertów.

Nowe podejście do budowania algorytmów wykorzystują także Polacy. I to nie tylko do wykrywania przemocy i wzmacniania zabezpieczeń sieci.

– Możemy także identyfikować innego rodzaju zagrożenia. W tym momencie rozwijamy również możliwość detekcji zachowań pedofilskich w internecie. Potrafimy też wykrywać myśli samobójcze wśród użytkowników internetu. Jeżeli jest osoba, która – co jest szczególnie istotne teraz w czasie pandemii koronawirusa – pisze, że szuka sposobu, żeby zakończyć swoje życie, to są sygnały, które wysyła światu. Jesteśmy je w stanie zidentyfikować i możemy sprawić, że taki automat, który będzie analizował bardzo duże ilości danych z różnych forów czy mediów społecznościowych, będzie w stanie to wychwycić i w porę kogoś zaalarmować. Chcemy także w niedalekiej przyszłości wykrywać te same treści w rozmowach głosowych. Będziemy też rozszerzać ich detekcję na przykład pod kątem nowych zagrożeń – zapowiada ekspert z Samurai Labs.

Według Mordor Intelligence światowy rynek sztucznej inteligencji w cyberbezpieczeństwie osiągnął w 2020 roku przychody na poziomie ponad 5 mld dol. Do 2026 roku rynek ma zwiększyć swoją wartość do ponad 14 mld dol.

Czytaj także

Więcej ważnych informacji

Jedynka Newserii

Transport

Ruszyła ważna inwestycja przemysłowa w województwie opolskim. Powstanie tu centrum logistyczne dla giganta motoryzacyjnego

Nowe regionalne Centrum Kompletacji i Dystrybucji, które powstanie w parku logistycznym i produkcyjnym Prologis Park Ujazd w województwie opolskim, będzie związane z rynkiem automotive aftermarket, konkretnie kompletacją i dystrybucją zestawów naprawczych dla branży motoryzacyjnej. Obiekt będzie służył firmie Schaeffler, a za jej budowę odpowiada Prologis. Jak podkreśla jego przedstawiciel, będzie to budynek niezależny od paliw kopalnych bezpośrednio dostarczanych do budynku i wyposażony w wiele rozwiązań prośrodowiskowych.

Konsument

Konsumenci rynku telekomunikacyjnego narzekają na nieprzejrzyste oferty. Jeden z operatorów chce je wyeliminować

Co piąty Polak dostrzega pozytywne zmiany na rynku usług telekomunikacyjnych, głównie jego rozwój, zarówno pod kątem liczby ofert, jak i rozwoju technologii. Gorzej jednak wypada przejrzystość ofert – wynika z badania Urzędu Komunikacji Elektronicznej. Konsumenci są zmęczeni skomplikowanymi taryfami i ukrytymi kosztami, dlatego coraz większym zainteresowaniem cieszą się proste pakiety. Dlatego też T-Mobile startuje z nową ofertą „Po prostu", z jednym, prostym abonamentem bez żadnych limitów.

Handel

Polski e-commerce rośnie w siłę. Konsumentów przyciągają przede wszystkim promocje

Rynek e-commerce w Polsce jest już wart ok. 152 mld zł. Rośnie zarówno częstotliwość zakupów, jak i średnia wartość koszyka – wynika z raportu Strategy&. Polacy doceniają wygodę zakupów przez internet, szybką dostawę i łatwy zwrot. Coraz częściej zwracają też uwagę na cenę i chętnie korzystają z promocji. To właśnie ten trend wykorzystuje Amazon.pl, organizując co roku festiwal z okazji Prime Day. W tym roku zaplanowano go po raz pierwszy aż na cztery dni: 8–11 lipca, a nie dwa jak w poprzednich latach.

Szkolenia

Akademia Newserii

Akademia Newserii to projekt, w ramach którego najlepsi polscy dziennikarze biznesowi, giełdowi oraz lifestylowi, a  także szkoleniowcy z wieloletnim doświadczeniem dzielą się swoją wiedzą nt. pracy z mediami.