Die risikoarmen KI-Systeme sind für die meisten Kommunen ein guter Start bei der Beschäftigung mit künstlicher Intelligenz: LLM-Tools (Large Language Models) wie ChatGPT oder Midjourney versprechen niedrige technischen Hürden, große Effizienzgewinne und überschaubare Kosten. Das gilt sogar dann, wenn Verwaltungen aus Datenschutzgründen ein eigenes geschlossenes KI-System nutzen, das nur mit den eigenen Daten arbeitet.

Für den Einsatz solcher LLM-Tools gibt es jetzt einen Leitfaden „Generative KI in Kommunalverwaltungen“. Herausgegeben hat das Dokument die Kommunale Gemeinschaftsstelle für Verwaltungsmanagement KGSt gemeinsam mit VITAKO, der Bundes-Arbeitsgemeinschaft der Kommunalen IT-Dienstleister e. V. „Die Guideline richtet sich insbesondere an Führungskräfte und Sachbearbeitende in Kommunalverwaltungen, die LLM-Tools in ihre Prozesse integrieren wollen. Sie dient als Kompass, um den Einsatz von KI im Verwaltungskontext strategisch und verantwortungsvoll zu gestalten“, sagt Katrin Giebel, Geschäftsstellenleiterin VITAKO.

Der Leitfaden formuliert Rahmenbedingungen, unter denen Kommunen LLM-Tools einsetzen können:

• Kommunen sollten wissen, was sie mit der Anwendung bezwecken und welche LLM-Tools sie – zum Beispiel aus Datenschutzgründen – nicht verwenden wollen.
• Speziell in öffentliche LLM-Tools dürfen keine personenbezogenen Daten oder Amtsgeheimnisse einfließen. Die öffentlichen Systeme nutzen diese nämlich zum Training.
• Welche Trainingsdaten öffentliche LLM-Tools nutzen, ist völlig unklar. Den Output sollten Nutzerinnen und Nutzer deswegen genau prüfen: Nicht alle Aussagen stimmen. Bei eigenen lizensierten LLM-Tools sollten Kommunen gleich von Anfang an auf eine korrekte Datenbasis achten.
• Texte aus LLM-Tools können Abschnitte enthalten, die so bereits in anderen Texten stehen. Kommunen, die öffentliche LLM-Tools verwenden, sollten prüfen, ob die Texte das Urheberrecht verletzen.
• Ergebnisse von LLM-Tools, die auf der Website, in E-Mails oder Chatbots veröffentlicht werden, müssen gekennzeichnet Ein Hinweis, dass die Inhalte mit Unterstützung von künstlicher Intelligenz erstellt wurden, genügt.
• Mitarbeitende in der Verwaltung sollten immer prüfen, ob Ergebnisse von LLM-Tools Recht oder ethische Grundsätze
• Die Verantwortung für die (veröffentlichten) Ergebnisse der LLM-Tools liegt immer beim Menschen.
• Mit einem Qualifizierungsprogramm stellen die Kommunen sicher, dass ihre Mitarbeitenden die Rahmenbedingungen für den KI-Einsatz kennen und beachten.

Der Leitfaden ermuntert dazu, niedrigschwellig zugängliche KI-Systeme zu nutzen, verschweigt jedoch auch nicht die Risiken. Dass die Vorteile dennoch überwiegen, betont Anika Krellmann, Referentin bei der KGSt: „Die Nutzung von LLM-Tools bietet großes Potenzial zur Effizienzsteigerung und Verbesserung der Dienstleistungsqualität in unseren Verwaltungen. Um diese Potenziale zu heben, braucht es Experimentierräume. Mit unserer Guideline geben wir den Verwaltungen ein Werkzeug an die Hand, welches sie dabei unterstützt, Mitarbeitende zeitgemäß, sicher und verantwortungsvoll an LLM-Tools heranzuführen.“