Les robots n'ont pas droit à l'erreur

Les algorithmes ont envahi nos vies, parfois sans même qu’on s’en aperçoive. Ici, c’est une plateforme qui sélectionne les futurs étudiants sur leurs bulletins scolaires. Là, c’est un véhicule sans chauffeur qui transporte des personnes âgées sur les quelques centaines de mètres les séparant du bourg. Ces innovations technologiques ne nous laissent pas indifférents. Curieux de voir comment les hommes jugent ces machines intelligentes, le physicien César Hidalgo a réuni un panel de 200 personnes pour leur soumettre des scénarios impliquant des hommes et des machines numériques. Une de ses premières observations relève que « les humains sont jugés sur leurs intentions et les machines sur leurs résultats ». Exemple : un tsunami menace de déferler sur une ville. Le maire et l’algorithme ont, chacun, le choix entre tenter d’évacuer tout le monde, mais avec le risque d’échouer et de faire beaucoup de victimes, ou évacuer seulement la moitié de la population avec un succès garanti. Pour cette deuxième option, l’homme et la machine sont appréciés de manière équivalente.

En revanche, dans le cas où l’on prend le risque d’évacuer l’ensemble de la population, si c’est un succès, le maire sera évalué beaucoup plus positivement que la machine. « Les participants [...]