L’“alignement” des IA, enjeu du siècle ?

L’alignement des intelligences artificielles (IA) désigne un processus visant à ce que ces machines agissent conformément aux objectifs et aux valeurs des humains qui les conçoivent.

Cela implique deux dimensions principales : d’abord, s’assurer que l’IA accomplisse les tâches pour lesquelles elle a été programmée, puis garantir qu’elle n’utilise pas de moyens jugés inacceptables ou dangereux pour y parvenir.

Par exemple, une IA chargée de trier des CV pourrait être alignée en évitant toute discrimination, ou une IA médicale pourrait être limitée pour ne pas prendre de décisions sans validation humaine.

Le terme alignment vient de l’anglais et est souvent traduit par « alignement », bien que cette traduction réduise parfois la complexité du concept.

En réalité, il s’agit moins de suivre des instructions à la lettre que de développer des IA en harmonie avec les valeurs humaines, comme la sécurité, l’éthique ou l’équité.