Regierungsbehörden nutzen KI-Tools und große Sprachmodelle

Künstliche Intelligenz (KI) und Technologien des maschinellen Lernens breiten sich in Regierungsanwendungen aus, da Behörden beginnen, die leistungsstarken Ressourcen zur Erfüllung ihrer Aufgaben zu nutzen.

Während große Sprachmodelle (LLMs) wie ChatGPT, OpenAI und Meta wertvoll sein können, sagten Beamte der Agenturen, dass sie die Modelle aus Sicherheitsgründen nicht in großem Maßstab nutzen könnten.

„Die Modelle sind so groß, dass es wahrscheinlich unerschwinglich ist, diese Modelle in unsere sichere Umgebung zu bringen, und das Unternehmen hat uns auch keinen Zugriff auf die Modelle selbst gewährt“, sagte Oberstleutnant Joseph Chapa, Chief Data des US-Luftwaffenministeriums und KI-Offizier, während des KI-Gipfels der ATARC am Mittwoch.

Chapa sagte, dass große Sprachmodelle derzeit nicht für die Datenebene der Agentur zertifiziert sind, sodass mehrere Einschränkungen bestehen.

„Alles, was wir mit den Systemen machen, muss völlig unklassifiziert und unempfindlich sein“, sagte Chapa.

Chapa sagte jedoch, die Agentur sei zuversichtlich, dass kleinere Open-Source-Modelle sichere Tools für vertrauliche Daten bereitstellen würden.

Mittlerweile arbeiten die Behörden auch intern daran, Sicherheitsprobleme zu bekämpfen und eine sichere Umgebung für Daten zu schaffen. Letztes Jahr hat die US-Küstenwache beispielsweise eine Abteilung für Klimadaten eingerichtet, die sich auf den Aufbau neuer Infrastruktur für den Betrieb von KI- und LLM-Anwendungen konzentriert.

„Was ich im Moment am aufregendsten finde, ist, dass wir etwas zu spät zum Spiel kommen. Aber wir mussten auch nicht alle Lektionen lernen, die die ersten Anwender gelernt haben“, sagte Jonathan White, Leiter der Cloud- und Datenabteilung der Küstenwache, während des Gipfels.

White sagte, große Sprachmodelle seien nur ein Teil des KI-Kuchens und die Agentur sei äußerst „KI-neugierig“, weil sie verstehe, wie einfallsreich die Technologie sein werde.

„Mit einer begrenzten Belegschaft ist es extrem schwierig, die Leute immer an den richtigen Stellen zu platzieren, dann haben wir viele Richtlinien, Vorschriften und Regeln und alles andere, was mit diesen Missionen einhergeht. Wäre es nicht großartig, wenn wir ein Tool hätten, das eine Antwort auf Ihre Frage im Zusammenhang mit diesen Richtlinien und Vorschriften liefern könnte?“ White erklärte. „Wenn sie sich mitten in einer Inspektion oder Warnung befinden und eine Frage stellen müssen, wäre es dann nicht großartig, einen digitalen Assistenten zu haben, der ihnen die Informationen anzeigt, die sie für die Durchführung dieser Inspektion benötigen.“

Experten sagten jedoch, dass sie sich nicht vollständig auf die Technologie verlassen können, da ein Mensch auf dem Laufenden sein muss, um Fehler zu vermeiden.

„Dies unterscheidet sich nicht von der Art und Weise, wie wir Geschäfte im Allgemeinen führen. Wenn wir ein neues Projekt erstellen, müssen wir Gutachter haben, und wenn Sie irgendeine Art von Forschung betreiben, haben Sie Forschungsgutachter“, sagte David Na, NASA Cloud AIML Foundations Lead, während des Gipfels. „Wir brauchen Gutachter für die Inhalte, die Sie generieren durch diese großen Sprachmodelle.“

Da Regierungsbehörden Wert auf große Sprachmodelle legen, seien sie sich laut Chapa darüber im Klaren, dass weiterhin Herausforderungen bestehen könnten. „Ich weiß, dass die Leute diese Modelle alleine verwenden – irgendwann wird es einige Ausrutscher oder Undichtigkeiten geben“, bemerkte er.

Laut Chapa lassen sich Textgenerierungsmodelle jedoch am besten nutzen, wenn die grundlegenden Informationen bereits bekannt sind, sodass die Fakten leicht validiert werden können.

„Es wird für Analysten verlockend sein, das Tool nutzen zu wollen, um Erkenntnisse über die Welt zu gewinnen. Und ich sage nicht, dass wir das nicht tun sollten. Ich sage, wir sollten erkennen, dass wir, wenn wir diese Tools in dieser Funktion nutzen wollen, darüber hinaus eine institutionelle Ebene zur Faktenprüfung aufbauen müssen“, sagte Chapa.

Trotz der Herausforderungen, die große Sprachmodelle mit sich bringen können, zeigten sich die Behördenvertreter begeistert von der verbesserten Sucherfahrung, der Zugänglichkeit von Daten und den anderen Möglichkeiten, die KI-Tools bieten werden.