Internationale Standards für KI
Die Internationale Fernmeldeunion ITU (International Telecommunication Union) ist eine UN-Sonderorganisation mit Sitz in Genf. Sie beschäftigt sich mit technischen Aspekten der weltweiten Telekommunikation. Mit Zeitenvogel sprach Dr. Bilel Jamoussi (Deputy Director of TSB & Chief Study Groups & Policy Department) auf der Cybersecurity Conference über die Bedeutung internationaler Standards in der digitalen Welt.
Why are international standards so important in times of enormous digitization processes?
Standards are important because they ensure interoperability between products and services from different providers, enabling seamless digital integration and deployment around the world. For example, the protocols we use for communication on the internet must comply with standards. Another example is fibre optic networks. If you want to set up such a network, you can purchase devices from provider A and provider B that are compatible with each other. Standards ensure global market economy with scalability, cost control, security, and trust in the system.
Weshalb sind internationale Standards in Zeiten intensivierter Digitalisierungsprozesse so wichtig?
Standards sind wichtig, weil sie die Interoperabilität zwischen Produkten und Dienstleistungen von unterschiedlichen Unternehmen gewährleisten und eine nahtlose digitale Integration und Bereitstellung auf der ganzen Welt ermöglichen. Die Protokolle, die wir beispielsweise für die Kommunikation im Internet verwenden, müssen bestimmten Standards entsprechen. Ein weiteres Beispiel sind Glasfasernetzwerke. Wenn Sie ein solches Netzwerk einrichten möchten, können Sie Geräte von Anbieter A und Anbieter B kaufen, die miteinander kompatibel sind. Standards sorgen für eine globale Marktwirtschaft mit Skalierbarkeit, Kostenkontrolle, Sicherheit und Vertrauen in das System.
One of the latest developments in the field of AI are AI agents, i.e. software systems that use AI to independently pursue goals and solve tasks. How can international standards regulate communication between AI agents?
AI agents are becoming highly sought-after applications. Today, AI agents can act on your behalf. They can make a hotel reservation for you, make the payment, book your trip, and do everything else for you in a matter of milliseconds. For this to work securely, these agents must be clearly identified, properly authorized and constantly verified, as they are acting on your behalf. The agents handle your private data, so the communication protocol must be secure. International standards provide a framework for the secure design of these technical details.
Eine der neuesten Entwicklungen auf dem Feld der KI sind KI-Agenten, also Softwaresysteme, die mithilfe KI eigenständig Ziele verfolgen und Aufgaben lösen. Wie können internationale Standards die Kommunikation zwischen KI-Agenten regulieren?
KI-Agenten werden zu sehr gefragten Anwendungen. Heute können KI-Agenten im Namen eines Menschen handeln, sie können für Sie eine Hotelreservierung vornehmen, die Zahlung tätigen, Ihre Reise buchen und alles andere für Sie in wenigen Millisekunden erledigen. Damit dies sicher funktioniert, müssen diese Agenten eindeutig identifiziert, richtig autorisiert und konstant verifiziert sein, da die Agenten an Ihrer Stelle handeln. Die Agenten verarbeiten Ihre privaten Daten, daher muss das Kommunikationsprotokoll sicher sein. Internationale Standards legen einen Rahmen für die sichere Ausgestaltung dieser technischen Details fest.
And what about AI models?
AI agents use large language models to make decisions. So, we need to be careful that these language models do not hallucinate. If the language models do not work reliably, an AI agent might book a trip to a different country than the one you want to travel to, for example. But how can we guarantee that the language models have been trained with the right data? How can we ensure that the interfaces that communicate with the model are not misused? These are all new areas of cybersecurity that did not exist a year ago, but which now require international agreements.
Und wie sieht es mit den KI-Modellen aus?
Die KI-Agenten nutzen große Sprachmodelle, um Entscheidungen zu treffen. Wir müssen also darauf achten, dass diese Sprachmodelle nicht halluzinieren. Wenn die Sprachmodelle nicht zuverlässig arbeiten, bucht ein KI-Agent zum Beispiel eine Reise in ein anderes Land als das, welches Sie eigentlich besuchen wollen. Wie können wir aber garantieren, dass die Sprachmodelle mit den richtigen Daten trainiert wurden? Wie können wir sicherstellen, dass die Schnittstellen, die mit dem Modell kommunizieren, nicht missbraucht werden? All dies sind neue Bereiche der Cybersicherheit, die es vor einem Jahr noch nicht gab und die wir jetzt durch internationale Vereinbarungen regulieren müssen.
The trustworthiness of AI also affects democracy…
Yes, indeed. In 2024, the ITU convened the first AI Governance Day in Geneva. Ministers of state, CEOs of companies, leading AI researchers and representatives of civil society took part in this event. The central topic was deepfakes. The sensitivity of the topic stemmed from the fact that 2024 was a major election year worldwide. Generative AI was used to support certain candidates or destroy others. The big question that arose in Geneva was: How can we ensure that the texts and audio files, images, and videos we consume are true? We can only solve this problem together. This is one of the reasons why this year’s World Economic Forum identified misinformation and disinformation as the number one risk.
Die Vertrauenswürdigkeit von KI betrifft ja auch die Demokratie…
Ja, in der Tat. 2024 hat die ITU in Genf den ersten AI Governance Day zur Regulierung von KI einberufen. An dieser Veranstaltung nahmen Minister, CEOs von Unternehmen, Spitzenforscher aus dem Bereich KI und Vertreter der Zivilgesellschaft teil. Das zentrale Thema waren Deepfakes. Die besondere Brisanz des Themas resultierte aus der Tatsache, dass 2024 weltweit ein großes Wahljahr war. Generative KI wurde eingesetzt, um bestimmte Kandidaten zu unterstützen oder andere zu zerstören. Die große Frage, die sich in Genf stellte, war: Wie können wir sicherstellen, dass Texte und Audiodateien, Bilder und Videos, die wir konsumieren, wahr sind? Wir können diese Aufgabe nur gemeinsam lösen. Auch deshalb hat das diesjährige Weltwirtschaftsforum Fehlinformationen und Desinformationen als das Risiko Nummer eins identifiziert.
What did this mean for your organisation, the ITU?
The three international standardisation organisations ITU, ISO and IEC have launched a collaboration on multimedia authenticity. We published two important reports this year. The first describes all existing technical standards. The second report, a kind of strategy paper, listed tools and techniques available to combat misinformation and disinformation. Our aim is to support policymakers and governments in countering the threat that AI poses to our trust in the entire political system.
Was folgte daraus auch für Ihre Organisation, die ITU?
Die drei internationalen Normierungsorganisationen ITU, ISO und IEC haben eine Zusammenarbeit zum Thema Multimedia-Authentizität ins Leben gerufen. Wir haben dieses Jahr zwei wichtige Berichte veröffentlicht, von denen der erste Bericht alle bestehenden technischen Standards beschreibt. Der zweite Bericht führte als eine Art Strategiepapier Instrumente und Techniken auf, die zur Abwehr von Falschinformationen und Desinformationen zur Verfügung stehen. Damit möchten wir politische Entscheidungsträger und Regierungen dabei unterstützen, der Bedrohung zu begegnen, die KI für unser Vertrauen in das gesamte politische System darstellt.
Can companies cooperate with the ITU?
Yes. The ITU is the only organization within the UN system that has not only 194 member countries, but also 1,000 members from the private sector and academia. This public-private partnership enables us to respond quickly to technological threats in the digital sphere and to provide global standards, regulatory guidelines, and their implementation. Today, there are around 2.6 billion people who do not have access to the internet. They need to be connected to the network in a secure manner. This is one of our most important tasks.
Können Unternehmen mit Ihrer Behörde zusammenzuarbeiten?
Ja. Die ITU ist die einzige Organisation im UN-System, die nicht nur 194 Mitgliedsländer, sondern auch 1.000 Mitglieder aus dem privaten Sektor und der Wissenschaft hat. Diese öffentlich-private Partnerschaft ermöglicht es uns, schnell auf technologische Bedrohungen im digitalen Bereich zu reagieren und globale Standards, regulatorische Richtlinien und deren Umsetzung bereitzustellen. So gibt es heute etwa 2,6 Milliarden Menschen, die keinen Internetzugang haben. Sie müssen an das Netz angeschlossen werden, und zwar auf sichere Weise. Das ist eine unserer wichtigsten Aufgaben.
Beitragsbild: SAMA PARTNERS Business Solutions GmbH/Dietrich Bechtel.