Cyberprzestępcy próbują manipulować konwersacyjnymi botami AI

Wszyscy ostatnio interesują się konwersacyjnymi botami AI. Hakerzy też. Check Point Software (znana firma zajmująca się bezpieczeństwem komputerów i internetu) donosi, że coraz więcej hakerów podejmuje próby włamywania się do robiących ostatnio zawrotną karierę inteligentnych, konwersacyjnych botów, w tym do ChatGPT.

Grafika: Jack Moreh/freerangestock

Firma ostrzega przy tym szczególnie przed wzmożoną aktywnością hakerów działających w krajach autorytarnych, takich jak Rosja. Starają się oni w pierwszej kolejności przełamywać tzw. geo-regionalne blokady. Są to blokady opracowane przez twórców tego typu programów, znajdujące się w obsługujących je interfejsach API.

Blokady ignorują między innymi wszystkie kierowane do niego żądania przychodzące z niektórych krajów, w tym z Rosji. Check Point (a konkretnie informatycy z działu Check Point Research) doszli do takiego wniosku po dogłębnym przeanalizowaniu żądań kierowanych do botów, które były wysyłane z terytorium Rosji.

Zobacz również:

  • Apple dalej na celowniku UE. Kolejne dochodzenie w drodze
  • "To tylko początek". OpenAI twierdzi, że wpływ AI na gospodarkę dopiero się zaczyna
  • Cyberwojna trwa na Bliskim Wschodzie

Badanie wykazało, że hakerzy starają przejmować kontrolę na botami i manipulować nimi, wykorzystując do tego celu narzędzie znane pod skrótem DAN (skrót od słów Do Anything Now; zrób cokolwiek teraz). Robią to poprzez generowanie specjalnie spreparowanych tekstów, które starają się ominąć bariery, np. firma OpenAI wprowadziła do oprogramowania ChatGPT. Są to bariery stworzone głównie z myślą o wyeliminowaniu z całego procesu konwersacji z botami mowy nienawiści czy fałszywych treści.

Check Point nie wykrył jak dotąd jakiegokolwiek exploita tego typu dnia zerowego, sugerując przy tym, iż najbardziej prawdopodobnym wektorem ataku może być w przyszłości jakaś nowa, zmodyfikowana postać phishingu.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200