genai006

Ethische richtsnoeren voor betrouwbare KI (EU)

Geplaatst op door Patrick Petersen
Ethische richtsnoeren voor betrouwbare KI (EU)

Ethische richtsnoeren voor betrouwbare KI (EU)

Dit is een machinevertaling die door de Europese Unie wordt verstrekt. De dienst eTranslation van de Commissie helpt u deze pagina te begrijpen. Alstublieft lees de gebruiksvoorwaarden . Om de oorspronkelijke versie te lezen, zie de brontekst .
Op 8 april 2019 heeft de deskundigengroep op hoog niveau inzake AI ethische richtsnoeren voor betrouwbare artificiële intelligentie gepresenteerd. Dit volgde op de publicatie van het eerste ontwerp van de richtsnoeren in december 2018, waarover meer dan 500 opmerkingen zijn ontvangen via een openbare raadpleging.

Volgens de richtsnoeren moet betrouwbare KI:

(1) rechtmatig — met inachtneming van alle toepasselijke wet- en regelgeving

(2) ethisch — eerbiediging van ethische beginselen en waarden

(3) robuust — beide vanuit technisch oogpunt, rekening houdend met de sociale omgeving

 

De richtsnoeren bevatten een reeks van 7 essentiële vereisten waaraan AI-systemen moeten voldoen om als betrouwbaar te worden beschouwd. Met behulp van een specifieke evaluatielijst wordt gecontroleerd of aan elk van de essentiële vereisten is voldaan:

Invloed en toezicht door mensen: AI-systemen moeten mensen mondiger maken, hen in staat stellen geïnformeerde beslissingen te nemen en hun grondrechten te bevorderen. Tegelijkertijd moet worden gezorgd voor passende toezichtmechanismen, die kunnen worden verwezenlijkt door middel van human-in-the-loop, human-on-the-loop en human-in-command benaderingen.
Technische weerstand en veiligheid: AI-systemen moeten veerkrachtig en veilig zijn. Ze moeten veilig zijn, zorgen voor een terugvalplan als er iets misgaat, en moeten nauwkeurig, betrouwbaar en reproduceerbaar zijn. Dit is de enige manier om ervoor te zorgen dat ook onopzettelijke schade tot een minimum kan worden beperkt en voorkomen.
Privacy en gegevensbeheer: naast het waarborgen van de volledige eerbiediging van privacy en gegevensbescherming moeten ook adequate mechanismen voor gegevensbeheer worden gewaarborgd, waarbij rekening wordt gehouden met de kwaliteit en integriteit van de gegevens en wordt gezorgd voor gelegitimeerde toegang tot gegevens.
Transparantie: de bedrijfsmodellen voor gegevens, systemen en AI moeten transparant zijn. Traceerbaarheidsmechanismen kunnen hiertoe bijdragen. Bovendien moeten AI-systemen en hun besluiten worden uitgelegd op een manier die is aangepast aan de betrokken belanghebbenden. Mensen moeten zich ervan bewust zijn dat zij interageren met een AI-systeem en moeten worden geïnformeerd over de mogelijkheden en beperkingen van het systeem.
Diversiteit, non-discriminatie en billijkheid: Oneerlijke vooroordelen moeten worden vermeden, aangezien dit meerdere negatieve gevolgen kan hebben, gaande van de marginalisering van kwetsbare groepen tot de verergering van vooroordelen en discriminatie. Ter bevordering van diversiteit moeten AI-systemen voor iedereen toegankelijk zijn, ongeacht een handicap, en relevante belanghebbenden gedurende hun hele levensloop betrekken.
Maatschappelijk en ecologisch welzijn: AI-systemen moeten ten goede komen aan alle mensen, met inbegrip van toekomstige generaties. Daarom moet ervoor worden gezorgd dat zij duurzaam en milieuvriendelijk zijn. Bovendien moeten zij rekening houden met het milieu, met inbegrip van andere levende wezens, en moeten de sociale en maatschappelijke gevolgen ervan zorgvuldig in overweging worden genomen.
Verantwoording: Er moeten mechanismen worden ingevoerd om de verantwoordelijkheid en verantwoordingsplicht voor KI-systemen en de resultaten daarvan te waarborgen. Controleerbaarheid, die de beoordeling van algoritmen, gegevens en ontwerpprocessen mogelijk maakt, speelt daarbij een belangrijke rol, met name in kritieke toepassingen. Bovendien moet worden gezorgd voor adequate en toegankelijke rechtsmiddelen.
De AI HLEG heeft ook een document opgesteld waarin nader wordt ingegaan op een definitie van kunstmatige intelligentie die wordt gebruikt voor de toepassing van de richtsnoeren.

 

 

Proefproces

Het document bevat ook een beoordelingslijst waarin de belangrijkste vereisten in werking worden gesteld en richtsnoeren worden gegeven om deze in de praktijk toe te passen. Vanaf 26 juni heeft deze beoordelingslijst een proefproject ondergaan, waarbij alle belanghebbenden werden uitgenodigd om de beoordelingslijst te testen en praktische feedback te geven over hoe deze kan worden verbeterd.

 

 

 

European approach to artificial intelligence

 

The EU’s approach to artificial intelligence centers on excellence and trust, aiming to boost research and industrial capacity while ensuring safety and fundamental rights.

The way we approach Artificial Intelligence (AI) will define the world we live in the future. To help build a resilient Europe for the Digital Decade, people and businesses should be able to enjoy the benefits of AI while feeling safe and protected.

The European AI Strategy aims at making the EU a world-class hub for AI and ensuring that AI is human-centric and trustworthy. Such an objective translates into the European approach to excellence and trust through concrete rules and actions.

Strengthening previous initiatives, the April 2025 AI Continent Action Plan aims to make Europe a global leader in AI. The Action Plan focuses on developing trustworthy AI technologies to enhance Europe’s competitiveness while safeguarding and advancing our democratic values. It aims to bring the benefits of AI to various sectors such as healthcare, education, industry, and environmental sustainability.

The plan includes actions to build large-scale AI data and computing infrastructures, increase access to high-quality data, foster AI adoption in strategic sectors, strengthen AI skills and talent, and facilitate the implementation of the AI Act. Key components include the establishment of AI Factories and Gigafactories, the InvestAI Facility to stimulate private investment, and the launch of the AI Skills Academy.

Previously, in January 2024, the Commission launched the AI innovation package to support Artificial Intelligence startups and SMEs. The package includes several measures to support European startups and SMEs in the development of trustworthy AI that respects EU values and rules.

One key element of this package is the Communication on boosting startups and innovation in trustworthy artificial intelligence that sets out a strategic investment framework in trustworthy AI for the Union to capitalize on its assets, in particular its world-leading supercomputing infrastructure, and to foster an innovative European AI ecosystem.

The main landmark initiative of the Communication is “GenAI4EU” to stimulate the uptake of generative AI across the Union’s key strategic industrial ecosystems and that will encourage the development of large open innovation ecosystems that will foster collaboration between AI startups and deployers of AI in industry as well as the public sector.

All these initiatives build on the April 2021 AI package which included:

A European approach to excellence in AI

Fostering excellence in AI will strengthen Europe’s potential to compete globally.

The EU will achieve this by:

  1. enabling the development and uptake of AI in the EU
  2. becoming the place where AI thrives from the lab to the market
  3. ensuring that AI works for people and is a force for good in society
  4. building strategic leadership in high-impact sectors

The Commission and Member States agreed to boost excellence in AI by joining forces on policy and investments. The 2021 review of the Coordinated Plan on AI outlines a vision to accelerate, act, and align priorities with the current European and global AI landscape and bring AI strategy into action.

Maximizing resources and coordinating investments is a critical component of AI excellence. Both the Horizon Europe and Digital Europe programmes will invest €1 billion per year in AI. The Commission will also mobilize additional investments from the private sector and the Member States in order to reach an annual investment volume of €20 billion over the course of the digital decade.

The Recovery and Resilience Facility makes €134 billion available for digital. This will be a game-changer, allowing Europe to amplify its ambitions and become a global leader in developing cutting-edge, trustworthy AI.

Access to high-quality data is an essential factor in building high-performance, robust AI systems. Initiatives such as the EU Cybersecurity Strategy, the Data Act, and the Data Governance Act provide the right infrastructure for building such systems.

A European approach to trust in AI

Building trustworthy AI will create a safe and innovation-friendly environment for users, developers, and deployers.

The Commission has proposed 3 inter-related legal initiatives that will contribute to building trustworthy AI:

  1. a European legal framework for AI that upholds fundamental rights and addresses safety risks specific to the AI systems;
  2. a civil liability framework – adapting liability rules to the digital age and AI;
  3. a revision of sectoral safety legislation (e.g. Machinery Regulation, General Product Safety Directive).

A European legal framework on AI

The Commission aims to address the risks generated by specific uses of AI through a set of complementary, proportionate, and flexible rules. These rules also provide Europe with a leading role in setting the global gold standard.

This framework gives AI developers, deployers, and users the clarity they need by intervening only in those cases that existing national and EU legislations do not cover. The AI Act has a clear, easy-to-understand approach, based on four different levels of risk: minimal risk, high risk, unacceptable risk, and specific transparency risk. It also introduces dedicated rules for general-purpose AI models.

Important milestones

genai006 

# genai006