Sztuczna inteligencja na cenzurowanym

FTC (Federal Trade Commission; amerykańska agencja do spraw handlu) wszczęła śledztwo, które ma sprawdzić, czy aplikacje AI nie rozpowszechniają fałszywych i wprowadzających w błąd treści. Ma to związek z faktem, że coraz więcej osób skarży się, że boty w rodzaju ChatGPC kreują często wirtualną rzeczywistość, nie mającą nic wspólnego z tą, która nas otacza.

Grafika: Jack-Moreh/Freerange

Agencja kilka miesięcy temu powołała do życia oddział Office of Technology. Ostrzegł on niedawno firmy rozwijające sztuczną inteligencję, że wykorzystujące ją aplikacje podlegają tym samym wymogom dotyczącym wiarygodności rozpowszechnianych informacji, jak każde inne oprogramowanie uruchamiane na komputerach. I tak np. osoba zażywająca lekarstwo polecone jej przez sztuczną inteligencję może pozwać do sądu firmę będącą twórcą danego narzędzia AI, oskarżając ją o to iż naraziła na szwank jej zdrowie. To tylko jeden przykład tego, jak groźna może być sztuczna inteligencja wtedy, gdy nie zostanie w jakiś sposób skodyfikowana i poddana kontroli.

Office of Technology wyraziło również obawy dotyczące potencjalnych problemów związanych z kwestią konkurencyjności, a właściwie z jej brakiem. Rzecz w tym iż firmy zaczynają stosować narzędzia LLM (Large Level Model) oparte na sztucznej inteligencji, które procesie szkolenia korzystają tylko z pewnej puli danych, nie mając jednocześnie dostępu do wszystkich informacji dotyczących konkretnej dziedziny. Gdyby pojedyncza korporacja lub mała grupa firm miała zmonopolizować taki komponent AI, mogłaby potencjalnie manipulować botem, ograniczając skutecznie konkurencję.

Zobacz również:

  • Powstała pięciostopniowa skala mierząca inteligencję rozwiązań AI
  • OneNote będzie mógł czytać notatki pisane odręcznie

FTC pisze, że LLM i inne generatywne narzędzia oparte na sztucznej inteligencji opierają się na pewnych krytycznych komponentach, w tym dużych zestawach danych używanych podczas fazy szkolenia technologii, które mogą być poza zasięgiem niektórych firm działających w danym sektorze gospodarki. Agencja poruszyła nawet kwestię modeli open source, które mają na celu demokratyzację dostępu do sztucznej inteligencji, pisząc, że technologia ta może być również niewłaściwie wykorzystywana lub wykorzystywana do blokowania konkurencji.

W celu komercyjnej reprodukcji treści Computerworld należy zakupić licencję. Skontaktuj się z naszym partnerem, YGS Group, pod adresem [email protected]

TOP 200