Chiny dokonały pierwszego aresztowania za używanie chatbota AI do publikowania fałszywych informacji

Chodzi o osobę o nazwisku Hong, która została oskarżona o używanie bota ChatGPT do rozpowszechniania nieprawdziwych wiadomości o katastrofie kolejowej, w której zginęło kilka osób. Policja chińska udokumentowała całe zdarzenie, pokazując serię zdjęć na swoim koncie w chińskiej sieci społecznościowej WeChat, na których widać moment aresztowania.

Aresztowanie to jest pierwszym zatrzymaniem od czasu wejścia w życie w styczniu tego roku nowego rozporządzenia dotyczącego rozpowszechniania wiadomości deep fake. Prawo ma na celu zapobieganie niewłaściwemu wykorzystaniu technologii używanych do publikowania tego typu wiadomości.

Oficjalnie bot ChatGPT jest w Chinach zablokowany, jednak wiele osób próbuje z niego korzystać, stosując różnego rodzaju technologie uniemożliwiające ich namierzenie, takie jak wirtualne sieci prywatne. Jednak tym razem chińskiej policji ds. cyberbezpieczeństwa udało się zidentyfikować sprawcę tego zdarzenia. Dochodzenie w tej sprawi zakończyło się wspomnianym aresztowaniem.

Zobacz również:

  • Asystent AI Copilot wkroczył do platformy Azure SQL Database
  • Chińscy naukowcy zaprezentowali na wskroś innowacyjne chipy AI

Policja odkryła, że 21 kont skonfigurowanych na chińskiej sieci Baidu (odpowiednik Google) opublikowało w tym samym czasie fałszywe wiadomości, których autorem był aresztowany mężczyzna. Policja powiązała cały incydent z firmą WeMedia mającą swoją siedzibę w Shenzen, której Hong był przedstawicielem.

Aresztowany przyznał się on do tego, że użył bota ChatGPT do generowania fałszywych wiadomości o katastrofie. Postawiono mu zarzut iż działał z zamiarem prowokowania zamieszek, za co w Chinach grozi 10 lat więzienia.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200