List został podpisany przez 13 byłych pracowników takich firm, jak OpenAI, Anthropic i DeepMind. Żądają w nim, aby naukowcy zajmujący się sztuczną inteligencją byli objęci szczególną ochroną, po to aby mogli bez obaw krytykować nowe rozwiązania i zwracać się do opinii publicznej i decydentów o opinię dotyczące tak ważnego tematu, jak sposoby i tempo wdrażania AI w życie.

„Wierzymy w potencjał technologii AI, która może zapewnić ludzkości bezprecedensowe korzyści”, czytamy w liście. „Jednocześnie rozumiemy poważne ryzyko, jakie stwarza ta technologia. Zagrożenia te obejmują dalsze utrwalanie istniejących nierówności, manipulację i dezinformację, aż po utratę kontroli nad autonomicznymi systemami sztucznej inteligencji, która może skutkować wyginięciem ludzkości”, alarmują sygnatariusze listu.

Zobacz również:

• Antydron w usłudze - nowy sposób na zabezpieczenie infrastruktury krytycznej
• Biały Dom obejmie sankcjami kolejną chińską firmę produkującą chipy
• Ten europejski kraj docenił zalety oprogramowania open source

Problem polega też na tym, że firmy opracowujące zaawansowane technologie sztucznej są pod silna presją finansową, w wyniku której starają unikać skutecznego nadzoru, zarówno ze strony własnych pracowników, jak i zewnętrznych podmiotów. Każde laboratorium rozwijające technologie AI musi udowodnić, że jest godne zaufania publicznego, a kluczowym pierwszym krokiem jest posiadanie przez pracowników solidnego i chronionego prawa do sygnalizowania wszelkich nieprawidłowości dostrzeżonych w procesie projektowania i wdrażania modeli AI.

W przesłaniu wzywa się firmy do powstrzymania się od karania lub uciszania obecnych lub byłych pracowników, którzy wypowiadają się na temat zagrożeń związanych ze sztuczną inteligencją. Apel nawiązuje do skandalu, który miał miejsce kilka tygodni temu w firmie OpenAI. Odchodzącym pracownikom kazano podpisać umowę zobowiązującą ich do niedyskredytowania firmy. OpenAI broni się i zapewnia iż podejmuje szereg kroków, które zapewniają jej pracownikom należytą ochronę. Mają oni np. do dyspozycji anonimową infolinię, za pośrednictwem której mogą przedstawiać swoje obawy.