Uczenie maszynowe i sztuczna inteligencja (AI) stają się podstawową technologią dla niektórych narzędzi wykrywania i reagowania na zagrożenia. Możliwość błyskawicznego uczenia się i automatycznego dostosowywania się do zmieniających się cyberzagrożeń daje przewagę zespołom bezpieczeństwa.

Jednak niektóre podmioty odpowiedzialne za zagrożenia wykorzystują również uczenie maszynowe i sztuczną inteligencję do zwiększania skali swoich cyberataków, unikania kontroli bezpieczeństwa i znajdowania nowych luk w zabezpieczeniach - wszystko to w niespotykanym dotąd tempie i z niszczycielskimi skutkami. Oto dziewięć najczęstszych sposobów, w jakie napastnicy wykorzystują te technologie.

Zobacz również:

• Blaski i cienie AI
• AWS dodaje do Bedrock nowe modele Foundation AI

Sztuczna inteligencja jest w fazie przejściowej, zarówno jako technologia, jak i sposób jej wykorzystania. Firmy coraz częściej wyprowadzają pilotaże AI z laboratoriów testowych i wdrażają je na skalę, a niektóre z nich odnotowują w związku z tym znaczne korzyści. Niezależnie od wszelkich niepewności związanych z AI, ignorowanie jej potencjału stwarza ryzyko, że firmy prowadzące działalność w stary sposób upadną.

Technologie dojrzałe a przełomowe

Pomiar wartości biznesowej każdej inicjatywy lub technologii nie zawsze jest kalkulacją liniową. AI z pewnością nie jest wyjątkiem, zwłaszcza gdy bierze się pod uwagę stopnie dojrzałości i potencjał biznesowy. Sprawdzone i przewidywalne zmienne - takie jak eksploracja danych, oszczędności kosztów i szkoleń, inwestycje i zdolność do ułatwiania nowych zastosowań - wpływają na decyzje, jeśli chodzi o akceptowalny ROI, ale pokładanie pewnego zaufania w technologii, bez względu na to, jak nowa lub ugruntowana, jest kluczowe.

Na przykład w Jet Propulsion Laboratory NASA kluczowym czynnikiem pomiaru ROI projektu AI jest dojrzałość technologiczna.

Niektóre przypadki użycia AI są na wysokim poziomie dojrzałości, mówi Chris Mattmann, główny oficer ds. technologii i innowacji w NASA JPL. Weźmy na przykład automatyzację procesów biznesowych. „Nudne rzeczy, które ma każda firma, my też mamy". "Więc automatyzujemy wiele rzeczy, takich jak przetwarzanie biletów, wyszukiwanie, eksploracja danych, patrzenie na kontrakty i umowy podwykonawcze przy użyciu AI”, mówi. JPL wykorzystuje do tego komercyjne technologie, w tym DataRobot i Google Cloud. Aby określić, czy dana technologia jest warta inwestycji, organizacja patrzy na to, czy pozwoli ona zaoszczędzić koszty, czas i zasoby, mówi Mattmann. W przypadku technologii na średnim poziomie dojrzałości, JPL patrzy na to, czy dana technologia ma zdolność do umożliwienia nowych przypadków użycia i przy jakich kosztach. „Na przykład, idziemy na Marsa i mamy cienką rurę dla telekomunikacji w głębokiej przestrzeni, a dziś jest wystarczająco dużo pasma, aby wysłać około 200 zdjęć dziennie z Marsa na Ziemię”, mówi. „Te genialne łaziki marsjańskie, które wysyłamy, mają w sobie mózgi wielkości grochu. Działają na procesorach iPhone’a 1. Umieszczamy w kosmosie tylko takie rzeczy, które są odporne na promieniowanie, gdzie jesteśmy pewni, że wytrzymają środowisko głębokiej przestrzeni kosmicznej. Układy, o których wiemy, że dobrze się sprawują, to te starsze chipy, więc nie robimy zaawansowanej sztucznej inteligencji ani uczenia maszynowego na łazikach”.

Jednak helikopter Ingenuity, który pierwotnie miał być po prostu demonstracją technologii i nie był rdzeniem misji, miał na pokładzie procesor Qualcomm Snapdragon, układ AI. „To pokazało nam, że można mieć nowsze chipy i robić więcej AI” – tłumaczy Mattman.

W tym przypadku AI umożliwi nowe przypadki użycia, które nie są obecnie możliwe. Na przykład zamiast odsyłać 200 zdjęć dziennie, łazik mógłby sam analizować zdjęcia za pomocą AI i odsyłać na Ziemię milion podpisów tekstowych opisujących na przykład, że w danym kierunku znajdowało się suche koryto jeziora. „Moglibyśmy uzyskać większą widoczność za pomocą tekstu niż dziś za pomocą zdjęć” - mówi Mattmann.

Wreszcie, w przypadku najbardziej nowatorskich, eksperymentalnych technologii AI, miarą sukcesu jest to, czy pozwalają one na prowadzenie nowych badań naukowych oraz pisanie i publikowanie nowych prac, jako że szkolenie i budowanie modeli wiąże się z kosztami.

Firmy takie jak Google i Microsoft mają gotowy dostęp do gigantycznych ilości danych treningowych, ale w JPL zbiory danych są trudne do zdobycia i wymagają ekspertów na poziomie doktorskim do analizy i oznaczania. „W NASA nasze koszty wyszkolenia nowego modelu AI są 10 do 20 razy większe niż w przemyśle komercyjnym” - uważa Mattmann.

W tym miejscu pojawiają się nowe technologie, które mogłyby pozwolić NASA na tworzenie modeli AI przy mniejszej ilości ręcznego etykietowania. Na przykład sieci generatywne mogłyby zostać wykorzystane do tworzenia syntetycznych danych treningowych - mówi. Głębokie fałszerstwa, ale z korzyścią dla nauki.

Pomiar AI i jej strefy wpływów

Gdy nie ma bezpośredniego sposobu na zmierzenie wpływu biznesowego projektu AI, firmy zamiast tego będą wydobywać dane z powiązanych kluczowych wskaźników wydajności (KPI). Te zmienne zastępcze zazwyczaj odnoszą się do celów biznesowych i mogą obejmować satysfakcję klienta, czas wprowadzenia na rynek lub wskaźnik utrzymania pracowników.

„Przykładem jest Atlantic Health System, gdzie pacjenci są w centrum każdej decyzji. W związku z tym, na wiele sposobów, zwrot z inwestycji w sztuczną inteligencję mierzy się poprzez poprawę opieki nad pacjentem. Metryki skoncentrowane na pacjencie obejmują skrócenie czasu pobytu, skrócenie czasu leczenia, szybszą weryfikację uprawnień ubezpieczeniowych i szybszą autoryzację wcześniejszych ubezpieczeń” - mówi mówi Sunil Dadlani, starszy wiceprezes i CIO.

Inny projekt obejmuje wykorzystanie AI do wspierania radiologów w badaniu skanów. Wskaźnikiem KPI jest to, jak często radiolodzy są ostrzegani o potencjalnie nieprawidłowych wynikach. „Od kwietnia 2022 roku 99% naszych radiologów zgłosiło użycie AI do analizy ponad 12 000 badań”- mówi Dadlani, dodając, że wywołało to prawie 600 alarmów. „Lekarze mogą więc zająć się potencjalnie poważnymi problemami tak szybko, jak to możliwe”.

W RSM, piątej co do wielkości firmie księgowej w USA, inwestycje w sztuczną inteligencję podążają dwiema ściśle powiązanymi ścieżkami: jedna to narzędzia produktywności i analityki, które pomagają pracownikom być lepszymi w swojej pracy. Druga to te same lub podobne narzędzia, ale używane przez klientów - mówi Richard Davis, partner w zespole firmy zajmującym się doradztwem w zakresie zarządzania, biznesu i transformacji technologicznej.

Na przykład podczas pracy z klientami firma RSM może zostać wezwana do wciągnięcia danych z wielu systemów - księgowości, sprzedaży i marketingu, HR, logistyki - i zebrania wszystkiego razem w jednym panelu. AI może pomóc w przyspieszeniu tego procesu, mówi Davis. Następnie SI może zostać wykorzystana do zidentyfikowania, w jaki sposób praca przechodzi przez te systemy i gdzie mogą znajdować się ukryte wyzwania i bariery. Skąd więc firma wie, czy jej SI zmierza we właściwym kierunku? „Po pierwsze, możemy bardzo wyraźnie zmierzyć wykorzystanie narzędzi” - mówi Davis, który odmówił podania szczegółów dotyczących inwestycji RSM w inicjatywy AI lub zwrotu z inwestycji. „To, co chcemy zobaczyć z czasem, to bardziej efektywnie dostarczane zaangażowanie”. To zwiększone zaangażowanie, według Davisa, powinno następnie prowadzić do zwiększenia wydajności. „Toteż jeśli coś kiedyś zajmowało nam tydzień, celem może być sprowadzenie tego do jednego dnia” - wyjaśnia.

Skup się na korzyściach biznesowych

Mierzenie sukcesu AI może być również subiektywne. Ocena projektu AI jest sztuką tak samo jak rozwój samej AI, mówi Eugenio Zuccarelli, naukowiec zajmujący się badaniami nad AI w MIT, który pracuje również jako naukowiec zajmujący się danymi w branży detalicznej.

Mimo to, ważne jest, aby móc wyjaśnić wpływ, jaki AI ma na biznes, mówi Zuccarelli: „KPI nie powinny być ustawione wokół samego modelu, ale na metrykach biznesowych i ludzkich, które powinny być celami końcowymi projektu".W przeciwnym razie może być zbyt łatwo wybrać metrykę techniczną, która pozornie pokazuje sukces, ale w rzeczywistości nie przełoży się na efektywny wpływ na firmę.

Zuccarelli, który zajmował również stanowiska data science w BMW i Telstra, przestrzega również przed mierzeniem postępów w oderwaniu od rzeczywistości. Na przykład, jeśli projekt AI został zaprojektowany, aby poprawić coś, co już uległo poprawie z innych powodów, to potrzebna jest grupa kontrolna, aby określić, ile z tej poprawy jest rzeczywiście zasługą AI.

„Innymi wartościowymi KPI dla projektów AI może być np. redukcja fałszywych alarmów lub automatyczne usuwanie nadmiernych uprawnień” - mówi Vladislav Shapiro, który ma wieloletnie doświadczenie w branży usług finansowych i jest założycielem Costidity, grupy doradczej specjalizującej się w bezpieczeństwie IT oraz zarządzaniu i administracji tożsamością.

W ostatnim wdrożeniu bezpieczeństwa napędzanym przez AI, przy którym pracował Shapiro, wskaźnik fałszywych pozytywnych alertów został zmniejszony trzykrotnie, mówi, a wiele wcześniej ręcznych procesów zostało zautomatyzowanych. „Kiedy pokażesz te liczby kierownictwu szczebla C, zrozumieją, że wszystkie powyższe rozwiązania zmniejszają ryzyko naruszenia oraz zwiększają odpowiedzialność i zarządzanie” - mówi.

Pomiar sukcesu

Automatyzacja prowadząca do redukcji kosztów jest najłatwiejszym i najbardziej przejrzystym sposobem na pokazanie ekonomicznych korzyści z AI, twierdzi Sanjay Srivastava, główny strateg cyfrowy w Genpact, globalnej firmie świadczącej usługi profesjonalne. Ale AI może również ułatwić tworzenie nowych strumieni przychodów, a nawet całkowicie przekształcić model biznesowy firmy.

Przykładowo, dzięki AI producent silników lotniczych zauważył, że może lepiej przewidywać awarie i poprawić logistykę, dzięki czemu może zacząć oferować silniki jako usługę. „Dla ostatecznego konsumenta lepiej jest kupić przeleciane mile niż sam silnik” - mówi. „To jest nowy model biznesowy. Zmienia sposób działania firmy, ponieważ AI to umożliwia”. I wpływ na biznes jest również natychmiast oczywisty, dodaje.

Tak więc, aby uzasadnić inwestycje w AI w tym czasie, ten konkretny producent potrzebował tego długoterminowego celu, ale przełożył go na krótkoterminowe projekty, które były mierzalne w inny sposób. „Zamiast mówić: 'Za dziesięć lat zmienimy branżę', powiedz: 'W pierwszym roku zaczniemy się przyglądać, które części musimy magazynować'. Nie zmieniasz jeszcze branży w zakresie przepłyniętych mil lotniczych. Mówisz tylko: 'Będziemy potrzebować odpowiednich części w odpowiednich ilościach'. To jednoroczny projekt optymalizacji systemów magazynowych i zmniejszenia kwoty, którą inwestujesz w zapasy”, wyjaśnia.

Oprócz optymalizacji łańcucha dostaw, inne krótkoterminowe miary postępu mogą obejmować zadowolenie klienta. Jeśli, na przykład, samolot utknął w Bombaju na pięć dni w oczekiwaniu na część, klient to odczuje.

Dostosowanie do wizji strategicznej

Istnieje również rzeczywistość, w której niektóre projekty związane ze sztuczną inteligencją mogą w krótkiej perspektywie czasowej zaszkodzić wynikom finansowym, ale w dłuższej perspektywie czasowej mogą okazać się ważne i transformacyjne. Na przykład firma, która rozwija chatbota do obsługi klienta, może wyeliminować prozaiczne zadania. „Ale chatboty mogą być szkodliwe, ponieważ niektórzy ludzie są dobrzy w upsellingu i chcą angażować się w ludzi” - mówi analityk Gartnera Whit Andrews. „Więc organizacja może tego nie chcieć”. To wraca do tego, jaką firmą chcesz być, mówi. „W pewnym momencie musisz zapytać, czy jesteś firmą, która jeśli na przykład dostawa się spieprzy, klienci mogą zadzwonić, aby zapytać, gdzie jest, a ty angażujesz się z nimi, a następnie próbujesz sprzedać im na otrzymanie produktu raz w miesiącu”. Jeśli organizacja jest zaangażowana zarówno w transformację napędzaną przez AI z mierzonym ROI na poparcie, jak i ma wizję bycia skoncentrowanym na kliencie, wtedy może spojrzeć poza natychmiastowe uderzenie w linię końcową w kierunku innych potencjalnie bardziej znaczących wskaźników. „Bardziej w pełni zautomatyzowana organizacja może odnieść większy sukces, ponieważ zwiększa udział w rynku, ale możesz rozwijać swoje dane tak, abyś był w stanie dotrzeć do kogoś w czasie, który jest dla niego bardziej odpowiedni. Jeśli jest coś, na co możesz wskazać i powiedzieć: logika po prostu mówi nam, że dzięki temu nasz klient będzie szczęśliwszy, a nasi pracownicy odniosą większy sukces, to go ścigaj” - mówi Andrews.

Źródło: CIO