Regulierung der Regulierung: Wie der TCU seine Unabhängigkeit nutzte, um Herausforderungen bezüglich künstlicher Intelligenz im öffentlichen Sektor Brasiliens anzugehen

Autoren: Diego Farias, Klauss Nogueira, Pedro Coutinho Filho und Thacio Scandaroli, Prüfer der Fachabteilung für IT-Prüfungen des TCU (ORKB Brasilien)

1. Einleitung: die Überschneidung zwischen Innovation und Unabhängigkeit

Die rasante Verbreitung künstlicher Intelligenz (KI) im öffentlichen Sektor hat Oberste Rechnungskontrollbehörden (ORKB) an die Schwelle eines neuen Aufsichtszeitalters gebracht. Angesichts der Versprechen höherer Effizienz und erheblicher Risiken in den Bereichen Ethik, Transparenz und Rechenschaftspflicht erfordert die Rolle der ORKB fachliches Urteilsvermögen sowie institutionelle Unabhängigkeit.

Die brasilianische ORKB, kurz TCU, hat in diesem Zusammenhang eine praktische Führungsrolle übernommen. Der TCU hat KI nicht nur in seinem eigenen Betrieb eingeführt, sondern auch das Ökosystem des öffentlichen Sektors aktiv beeinflusst, indem er den Quellcode seiner Tools mit anderen Institutionen geteilt hat. Ein Beispiel dafür ist ChatTCU – ein Unterstützungstool, das auf generativer KI basiert –, dessen Code öffentlich zugänglich gemacht wurde, damit andere Behörden maßgeschneiderte Anwendungen entwickeln können.

Die führende Rolle des TCU erstreckt sich auch auf den Bereich Regulierung. Im Jahr 2024 legte die ORKB dem Nationalkongress den Kurzbericht zu den Risiken der Regulierung künstlicher Intelligenz in Brasilien vor, in dem sie vor den möglichen negativen Auswirkungen einer schlecht abgestimmten Regulierung warnte und sich für ausgewogene sowie fachlich fundierte Ansätze aussprach. Die Publikation fand weite Verbreitung und trug dazu bei, die Rolle des TCU als unabhängige und glaubwürdige Stimme bezüglich der Regulierung neuer Technologien zu festigen.

Diese führende Rolle erstreckt sich auch auf andere neu aufkommende Technologien. Der TCU veröffentlichte einen Kurzbericht zum Thema Blockchain, in dem sowohl die Risiken als auch das Potenzial im öffentlichen Sektor bewertet wurden. Diese Publikationen sowie konkrete Maßnahmen zum Austausch von Wissen und Technologie veranschaulichen, wie der TCU seine Unabhängigkeit konstruktiv nutzt und selbst in unsicheren regulatorischen Umfeldern fachliche Lösungen bietet.

Dieser Beitrag befasst sich mit den Erfahrungen des TCU als Beispiel dafür, dass Unabhängigkeit nicht nur Widerstand gegenüber Druck von außen bedeutet, sondern auch die Fähigkeit, angesichts technologischer Herausforderungen unabhängig, fachlich konsistent und mit einem Bewusstsein für öffentliche Verantwortung zu handeln.

2. Der TCU als fachlicher Vorreiter: Einsatz und Verbreitung von KI im öffentlichen Sektor

Der TCU hat sich zu einer nationalen sowie internationalen Referenzinstitution für den Einsatz von KI zur Verbesserung von Prüfungs- und Aufsichtstätigkeiten entwickelt. Seit der Einführung von ChatTCU im März 2023 wurde das Tool intern weithin angenommen. Es unterstützt Prüferinnen und Prüfer sowie das restliche Personal dabei, Verfahren zu verbessern und Effizienz zu steigern. Im Mai 2025 hatte ChatTCU über 2.700 aktive Nutzerinnen und Nutzer. Das entspricht etwa 90 % der Belegschaft der Institution.

Neben der internen Nutzung hat der TCU einen kooperativen Ansatz gewählt und den Quellcode von ChatTCU mit anderen staatlichen Institutionen geteilt. Bis Mitte 2025 hatten 136 Institutionen – darunter Behörden, Aufsichtsorgane, Berufsverbände, Universitäten und Rechnungskontrollbehörden – Vereinbarungen zur Einführung der Technologie unterzeichnet. Die Initiative führte auch zu einer formellen Vereinbarung über die Weitergabe der Technologie mit den ORKB Honduras und Chile.

Dies spiegelt das Engagement des TCU für Innovation und seine Rolle als Katalysator für die digitale Transformation im öffentlichen Sektor wider. Durch die Bereitstellung eines umfassenden Zugangs zu den Grundlagen von ChatTCU stärkt die ORKB ihre technisch führende Rolle sowie ihr kooperatives Ethos.

Die internationale Anerkennung des TCU untermauert seine Position zusätzlich. Im April 2024 würdigte die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) den TCU als einzige staatliche Stelle, die bei der Nutzung generativer KI ein fortgeschrittenes Stadium erreicht hat, und nannte ChatTCU ein Vorbild für Innovation und Effizienz.

Im Jahr 2025 wurde Rainério Leite, Sekretär für IT-Aufsicht und digitale Entwicklung des TCU, in die Liste „Government AI 100” als eine der 100 weltweit einflussreichsten Personen im Bereich KI im öffentlichen Sektor aufgenommen. Diese Anerkennung unterstreicht die führende Rolle des TCU bei der Vereinbarkeit von Innovation, Ethik und wirksamer Aufsicht im öffentlichen Sektor. Sein Ansatz fußt auf den Grundsätzen algorithmische Ethik, Transparenz und Rechenschaftspflicht, an denen sich sowohl die interne Entwicklung als auch die externe Beurteilung von KI-Tools orientiert.

3. Blockchain und die Ausweitung der Regulierungsrolle des TCU

Die innovative und unabhängige Haltung des TCU zeigt sich auch in seinem Umgang mit anderen neuen Technologien, zum Beispiel Blockchain. Im Jahr 2020 veröffentlichte die ORKB den Kurzbericht „Mapping Blockchain Technology” (dt. etwa „Abbildung von Blockchain-Technologie“), der staatlichen Institutionen bei der Entwicklung von Blockchain-Projekten auf der Grundlage nationaler und internationaler Erfahrungswerte einen anleitenden Rahmen bietet.

In der Publikation wurde betont, dass die Einführung der Blockchain einer Machbarkeitsprüfung unterzogen und durch eine Kosten-Nutzen-Analyse, eine Problemabstimmung sowie starke Governance-Strukturen untermauert werden sollte. Außerdem wurde vor den Risiken ineffektiver staatlicher Investitionen gewarnt, sollte Blockchain-Technologie allein aufgrund ihrer Neuartigkeit und ohne solide fachliche Begründung eingeführt werden.

Eines der größten hervorgehobenen Risiken war dabei das Fehlen eines konsolidierten Rechtsrahmens, das zu Rechtsunsicherheit, unterschiedlichen Auslegungen und einer Fehlallokation öffentlicher Gelder führen kann. In dem Dokument wird empfohlen, die Nutzung von Blockchain-Technologie von einem nachweisbaren öffentlichen Nutzen und einer sorgfältigen Planung der Anforderungen in den Bereichen Interoperabilität, Sicherheit und Nachhaltigkeit abhängig zu machen.

Der TCU betonte ebenfalls, dass die Blockchain-Technologie keine universelle Lösung ist. Ihre Anwendbarkeit hängt von bestimmten Bedingungen ab, zum Beispiel dem Erfordernis unveränderlicher Aufzeichnungen und dezentralem Vertrauen.

Bemerkenswert ist, dass der Bericht die potenzielle Rolle der Bundesregierung als Anbieterin öffentlicher Infrastruktur für Blockchain-Lösungen voraussah. Diese Vision wurde im April 2022 mit der Gründung des brasilianischen Blockchain-Netzwerks (RBB), das vom Bundesdatenverarbeitungsdienst (Serpro) und der nationalen Entwicklungsbank (BNDES) koordiniert wird und an dem verschiedene Regierungsstellen beteiligt sind, zur Wirklichkeit.

Diese wegweisende Initiative stärkt die Rolle des TCU als Förderer solider regulatorischer Praktiken, selbst in unsicheren und sich wandelnden technologischen Umfeldern, und veranschaulicht, wie institutionelle Unabhängigkeit durch die Gewinnung qualifizierter Erkenntnisse über den staatlichen Sektor ausgeübt werden kann.

4. Die Publikation „Risiken der Regulierung von KI in Brasilien”

Im April 2024 legte der TCU dem Nationalkongress den Kurzbericht „Risiken der Regulierung künstlicher Intelligenz in Brasilien” vor, ein fachliches Dokument, das erstellt wurde, um die legislative Debatte zu diesem Thema zu unterstützen, indem die wichtigsten regulatorischen Risiken und ihre potenziellen Auswirkungen auf die nationale KI-Strategie Brasiliens vorgestellt und diskutiert werden.

In der Publikation wurden neun Hauptrisiken, die in vier Kategorien eingeteilt werden können, ermittelt:

1. Einschränkung von Innovation und digitaler Transformation – umfasst Innovationshemmnisse, Umsetzungsverzögerungen und Einschränkungen der digitalen Transformationsfähigkeit des Staates.
2. Marktkonzentration und Ausschluss kleiner Akteure – umfasst Hindernisse für Start-ups, regulatorische Vorteile für Monopole oder Oligopole sowie Herausforderungen bei der Bindung von KI-Talenten.
3. Schlecht abgestimmte Regulierung und Rechtsunsicherheit – umfasst veraltete oder ineffektive Regulierungsmodelle, allgemeine rechtliche Definitionen, die sich auf nicht verwandte Bereiche auswirken, und Vorschriften, die mit den Gegebenheiten von KI unvereinbar sind (z. B. Urheberrecht).
4. Institutionelle und internationale Schieflage – dazu gehören Konflikte zwischen Regulierungsbehörden, mangelnde fachliche Kompetenzen in den Regulierungsbehörden und die Nichteinhaltung international bewährter Verfahren.

Mit klarer und verständlicher Sprache sowie einer erklärenden Infografik trug die TCU-Publikation dazu bei, das Bewusstsein für die Risiken einer schlecht konzipierten Regulierung zu schärfen. Sie empfahl keine neuen Regeln, sondern diente vielmehr als fachliche Warnung und institutioneller Beitrag zum Regierungshandeln. Ihre Verbreitung in einem politisch sensiblen Kontext bekräftigte die Rolle des TCU als neutrale, aber proaktive Institution.

5. Dilemmata: zwischen Innovation und externem Druck

Die KI-Initiativen des TCU brachten ihm Sichtbarkeit und Lob ein, stellten ihn allerdings auch vor erhebliche institutionelle Herausforderungen. Die Publikation zu den Risiken der KI-Regulierung wurde von den Fachsektoren begrüßt, rief in der Gesetzgebung sowie unter hochrangigen Beamtinnen und Beamten, die sich für eine strengere oder zentralisierte Regulierung aussprachen, jedoch unterschiedliche Reaktionen hervor.

In diesem Zusammenhang musste die ORKB ein Gleichgewicht zwischen einer proaktiven Haltung und der Notwendigkeit, fachliche Neutralität zu wahren, finden. Durch die Befürwortung eines umsichtigen, evidenzbasierten Regulierungsansatzes minderte der TCU Reputationsrisiken und vermied den Eindruck politischer Voreingenommenheit.

Intern erforderte die Einführung von Tools wie ChatTCU ebenfalls ein vorsichtiges Vorgehen, um den Eindruck von Eigenwerbung oder einer übermäßigen Abhängigkeit von Technologie im Vergleich zu traditionellen Methoden zu vermeiden. Die ORKB adressierte diese Risiken, indem sie den Quellcode veröffentlichte, öffentliche Diskussionsrunden veranstaltete und ihre Strategien der Kritik von Expertinnen und Experten sowie der internationalen Öffentlichkeit aussetzte.

Diese Dilemmata zeigen, dass Unabhängigkeit nicht nur ein rechtliches oder formales Konzept ist, sondern die kontinuierliche Ausübung des institutionellen Urteilsvermögens – insbesondere wenn Innovationen etablierte Erwartungen in Frage stellen.

6. Zukunftsperspektiven: Unabhängigkeit als regulatorischer Vorteil

Die Erfahrungen des TCU im Bereich künstliche Intelligenz liefern wertvolle Erkenntnisse für andere ORKB, die angesichts regulatorischer und technologischer Veränderungen vor ähnlichen Herausforderungen stehen.

Maßnahmen in neuen Regulierungsumfeldern erfordern zunächst eine Kombination aus Fachwissen, strategischem Timing und institutioneller Umsicht. Die führende Rolle des TCU bei der Erstellung von Leitlinien – beispielsweise des Kurzberichts zu KI-Regulierung – zeigt, dass es möglich ist, die öffentliche Politik zu beeinflussen und dabei gleichzeitig Neutralität sowie institutionelle Glaubwürdigkeit zu wahren.

Eine weitere reproduzierbare Methode ist die algorithmische Transparenz. Durch die Veröffentlichung des ChatTCU-Quellcodes und die Unterstützung seiner Anpassung durch andere Institutionen fördert der TCU eine Kultur der Zusammenarbeit und vermeidet gleichzeitig Technologie-Monopole. Dies zeigt, dass Unabhängigkeit bedeutet, über die notwendige Autonomie zu verfügen, um verantwortungsbewusst führen zu können, und nicht isoliert zu handeln.

Schließlich stärken das aktive Anhören der Zivilgesellschaft sowie der Austausch mit Expertinnen und Experten, Universitäten und internationalen Organisationen die Legitimität der Aufsichtsmaßnahmen. Diese Strategien bekräftigen den Wert von Unabhängigkeit als regulatorisches Kapital – eine notwendige Voraussetzung dafür, dass ORKB nicht nur Aufsichtsfunktionen wahrnehmen, sondern auch Lösungen für die komplexesten staatlichen Herausforderungen beitragen können.

7. Fazit

Die jüngsten Erfahrungen des TCU zeigen, dass es bei institutioneller Unabhängigkeit nicht nur darum geht, sich gegen Einflüsse von außen zur Wehr zu setzen, sondern auch darum, fachlich führend zu sein, einen Beitrag zur öffentlichen Politik zu leisten sowie Kohärenz zwischen Diskurs und Praxis zu wahren.

Durch die Kombination des verantwortungsvollen KI-Einsatzes mit einer kritischen und kooperativen Haltung gegenüber neuen Regulierungen bekräftigte die ORKB ihre funktionale Autonomie sowie ihren Einsatz für das Interesse der Öffentlichkeit. Ihre Publikationen und fachlichen Analysen zu KI-Regulierungen und der Einführung von Blockchain-Technologie in der öffentlichen Verwaltung sind konkrete Ausdrucksformen einer nach außen gerichteten Unabhängigkeit, die dem gesamten staatlichen Ökosystem zugutekommt.

Der Fall des TCU zeigt, dass die Übernahme von führenden Rollen in sensiblen Bereichen, wenn diese umsichtig, transparent und fachlich fundiert ausgeübt werden, die Legitimität sowie Wirkung von Obersten Rechnungskontrollbehörden stärken kann. In einer sich schnell verändernden Welt umfasst die Beibehaltung der Unabhängigkeit mehr als nur Widerstand – sie bedeutet, bereit zu sein, mit Urteilsvermögen und Mut zu handeln, wenn Untätigkeit zu hohe Kosten verursachen würde.

Quellenangaben

1. Der TCU unterstützt Institutionen bei der Einführung generativer KI-Tools. Verfügbar unter: https://portal.tcu.gov.br/imprensa/noticias/instituicoes-parceiras-recebem-suporte-tecnico-para-implementacao-do-chattcu (auf Portugiesisch)
2. Der TCU und die ORKB Chile unterzeichnen ein Kooperationsabkommen für die Bereiche Technologie und KI: https://portal.tcu.gov.br/imprensa/noticias/tcu-e-controladoria-geral-do-chile-firmam-acordo-para-cooperacao-em-tecnologia-e-ia (auf Portugiesisch)
3. OECD recognition – Generative AI for anti-corruption and integrity in government. Verfügbar unter: https://www.oecd.org/en/publications/generative-ai-for-anti-corruption-and-integrity-in-government_657a185a-en.html
4. Government AI 100 Award – Apolitical. Verfügbar unter: https://apolitical.co/list/en/government-ai-100-2025
5. Kurzfassung – Abbildung von Blockchain-Technologie. Verfügbar unter: https://portal.tcu.gov.br/data/files/59/02/40/6E/C4854710A7AE4547E18818A8/Blockchain_sumario_executivo.pdf (auf Portugiesisch)
6. Risiken der Regulierung künstlicher Intelligenz in Brasilien – Kurzfassung. Verfügbar unter: https://portal.tcu.gov.br/publicacoes-institucionais/sumarios-executivos/riscos-da-regulacao-da-inteligencia-artificial-no-brasil (auf Portugiesisch)
7. Brazilian Blockchain Network. Institutional Presentation. Verfügbar unter: https://www.gov.br/rbb (auf Portugiesisch)