Technologia AI na cenzurowanym

Pracownicy zatrudnieni w kilku czołowych firmach rozwijających technologie AI opublikowali list otwarty, w którym ostrzegają, iż bez dodatkowych zabezpieczeń sztuczna inteligencja może stanowić poważne zagrożenie, łącznie z niebezpieczeństwem wyginięcia ludzkości.

Grafika: Jack-Moreh/Freerange

List został podpisany przez 13 byłych pracowników takich firm, jak OpenAI, Anthropic i DeepMind. Żądają w nim, aby naukowcy zajmujący się sztuczną inteligencją byli objęci szczególną ochroną, po to aby mogli bez obaw krytykować nowe rozwiązania i zwracać się do opinii publicznej i decydentów o opinię dotyczące tak ważnego tematu, jak sposoby i tempo wdrażania AI w życie.

„Wierzymy w potencjał technologii AI, która może zapewnić ludzkości bezprecedensowe korzyści”, czytamy w liście. „Jednocześnie rozumiemy poważne ryzyko, jakie stwarza ta technologia. Zagrożenia te obejmują dalsze utrwalanie istniejących nierówności, manipulację i dezinformację, aż po utratę kontroli nad autonomicznymi systemami sztucznej inteligencji, która może skutkować wyginięciem ludzkości”, alarmują sygnatariusze listu.

Zobacz również:

  • Internetowa transmisja meczu Polski z Austrią przerwana z powodu ataku DDoS
  • Biały Dom obejmie sankcjami kolejną chińską firmę produkującą chipy

Problem polega też na tym, że firmy opracowujące zaawansowane technologie sztucznej są pod silna presją finansową, w wyniku której starają unikać skutecznego nadzoru, zarówno ze strony własnych pracowników, jak i zewnętrznych podmiotów. Każde laboratorium rozwijające technologie AI musi udowodnić, że jest godne zaufania publicznego, a kluczowym pierwszym krokiem jest posiadanie przez pracowników solidnego i chronionego prawa do sygnalizowania wszelkich nieprawidłowości dostrzeżonych w procesie projektowania i wdrażania modeli AI.

W przesłaniu wzywa się firmy do powstrzymania się od karania lub uciszania obecnych lub byłych pracowników, którzy wypowiadają się na temat zagrożeń związanych ze sztuczną inteligencją. Apel nawiązuje do skandalu, który miał miejsce kilka tygodni temu w firmie OpenAI. Odchodzącym pracownikom kazano podpisać umowę zobowiązującą ich do niedyskredytowania firmy. OpenAI broni się i zapewnia iż podejmuje szereg kroków, które zapewniają jej pracownikom należytą ochronę. Mają oni np. do dyspozycji anonimową infolinię, za pośrednictwem której mogą przedstawiać swoje obawy.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200