A Bloomberg jelentése szerint a Microsoft bevezetett egy GPT-4-alapú generatív mesterséges intelligencia modellt, amelyet kifejezetten az amerikai hírszerző ügynökségek számára terveztek, és amely az internetről leválasztva működik. Állítólag ez az első alkalom, hogy a Microsoft biztonságos környezetben telepített egy nagy nyelvi modellt, amely lehetővé teszi a kémügynökségek számára a szigorúan titkos információk elemzését csatlakozási kockázatok nélkül – és lehetővé teszi a biztonságos beszélgetéseket a ChatGPT-hez és a Microsoft Copilothoz hasonló chatbottal. De félrevezetheti a tisztviselőket is, ha nem megfelelően használják az AI nyelvi modellek tervezési korlátai miatt.
A GPT-4 az OpenAI által létrehozott nagy nyelvi modell (LLM), amely megpróbálja megjósolni a sorozat legvalószínűbb tokenjeit (kódolt adatok töredékeit). Használható számítógépes kódok készítésére és információk elemzésére. Ha chatbotként van beállítva (mint például a ChatGPT), a GPT-4 képes olyan mesterséges intelligencia asszisztenseket működtetni, akik emberhez hasonló módon beszélgetnek. A Microsoft licenccel rendelkezik a technológia használatára az OpenAI-ba eszközölt nagy befektetésekért cserébe.
A jelentés szerint az új mesterségesintelligencia-szolgáltatás (amelynek még nincs nyilvános neve) a hírszerző ügynökségek növekvő érdeklődésére törekszik, hogy generatív mesterséges intelligenciát használjanak minősített adatok feldolgozására, miközben csökkentik az adatszivárgás vagy a hackelési kísérletek kockázatát. A ChatGPT általában a Microsoft által biztosított felhőszervereken fut, ami adatszivárgási és elfogási kockázatokat jelenthet. Ennek megfelelően a CIA tavaly bejelentette, hogy egy ChatGPT-szerű szolgáltatást kíván létrehozni, de a Microsoftnak ez a törekvése állítólag egy külön projekt.
William Chappell, a Microsoft stratégiai küldetésekért és technológiáért felelős technológiai igazgatója a Bloombergnek megjegyezte, hogy az új rendszer kifejlesztése 18 hónapig tartó munkát igényelt egy iowai mesterséges intelligencia-szuperszámítógép módosítására. A módosított GPT-4 modellt úgy tervezték, hogy olvassa a felhasználók által biztosított fájlokat, de nem fér hozzá a nyílt internethez. „Ez az első alkalom, hogy különálló verzióval rendelkezünk – amikor az izolált azt jelenti, hogy nem csatlakozik az internethez -, és egy speciális hálózaton van, amelyhez csak az Egyesült Államok kormánya férhet hozzá” – mondta Chappell a Bloombergnek.
Az új szolgáltatást csütörtökön aktiválták, és mára a hírszerző közösségben mintegy 10 000 személy számára elérhető, és készen áll az illetékes ügynökségek további tesztelésére. Chappell szerint jelenleg „kérdésekre válaszol”.
A GPT-4 használatának egyik komoly hátránya a fontos adatok elemzésére, hogy potenciálisan pontatlan összefoglalásokat készíthet (készíthet), pontatlan következtetéseket vonhat le, vagy pontatlan információkat szolgáltathat felhasználóinak. Mivel a betanított mesterséges intelligencia neurális hálózatok nem adatbázisok, és statisztikai valószínűségek alapján működnek, szegényes ténybeli erőforrásokat termelnek, hacsak nem bővítik őket egy másik forrásból származó információhoz való külső hozzáféréssel olyan technikával, mint például a retrieval augmented generation (RAG).
Tekintettel erre a korlátozásra, teljesen lehetséges, hogy a GPT-4 félretájékoztathatja vagy félrevezetheti az amerikai hírszerző ügynökségeket, ha nem megfelelően használják. Nem tudjuk, hogy a rendszer milyen felügyeletet fog gyakorolni, milyen korlátozások vonatkoznak arra, hogyan lehet vagy fog használni, vagy hogyan ellenőrizhető a pontosság. Megkerestük a Microsoftot véleményért.