Agencja kilka miesięcy temu powołała do życia oddział Office of Technology. Ostrzegł on niedawno firmy rozwijające sztuczną inteligencję, że wykorzystujące ją aplikacje podlegają tym samym wymogom dotyczącym wiarygodności rozpowszechnianych informacji, jak każde inne oprogramowanie uruchamiane na komputerach. I tak np. osoba zażywająca lekarstwo polecone jej przez sztuczną inteligencję może pozwać do sądu firmę będącą twórcą danego narzędzia AI, oskarżając ją o to iż naraziła na szwank jej zdrowie. To tylko jeden przykład tego, jak groźna może być sztuczna inteligencja wtedy, gdy nie zostanie w jakiś sposób skodyfikowana i poddana kontroli.

Office of Technology wyraziło również obawy dotyczące potencjalnych problemów związanych z kwestią konkurencyjności, a właściwie z jej brakiem. Rzecz w tym iż firmy zaczynają stosować narzędzia LLM (Large Level Model) oparte na sztucznej inteligencji, które procesie szkolenia korzystają tylko z pewnej puli danych, nie mając jednocześnie dostępu do wszystkich informacji dotyczących konkretnej dziedziny. Gdyby pojedyncza korporacja lub mała grupa firm miała zmonopolizować taki komponent AI, mogłaby potencjalnie manipulować botem, ograniczając skutecznie konkurencję.

Zobacz również:

• Ten incydent z „katolickim księdzem” pokazuje, jak niebezpieczna może być sztuczna inteligencja
• Majowa konferencja Apple może być ważniejsza niż oczekujemy

FTC pisze, że LLM i inne generatywne narzędzia oparte na sztucznej inteligencji opierają się na pewnych krytycznych komponentach, w tym dużych zestawach danych używanych podczas fazy szkolenia technologii, które mogą być poza zasięgiem niektórych firm działających w danym sektorze gospodarki. Agencja poruszyła nawet kwestię modeli open source, które mają na celu demokratyzację dostępu do sztucznej inteligencji, pisząc, że technologia ta może być również niewłaściwie wykorzystywana lub wykorzystywana do blokowania konkurencji.