Les États membres de l'Unesco ont décidé jeudi de mandater cette agence de l'ONU pour travailler à l'élaboration de normes éthiques en matière d'intelligence artificielle, a-t-on appris auprès de l'Unesco.
"Ce fut une décision à l'unanimité" de la part de pays aux positions très diverses sur ces questions, "c'est une belle journée !", s'est-on félicité au Secrétariat de l'organisation des Nations unies pour l'éducation, la science et la culture, après la décision des 193 pays membres.
L'Unesco va donc faire appel à des experts internationaux qui travailleront au cours des 18 prochains mois "au premier instrument normatif mondial" dans ce domaine.
À l'ouverture de la conférence générale de l'institution (12-27 novembre), sa directrice générale, Audrey Azoulay, avait plaidé pour "la construction d'une vision partagée des questions d'éthique liées à l'intelligence artificielle" qui "s'appuie sur le réseau d'experts" de l'Unesco et sa "légitimité politique".
"L'intelligence artificielle dépasse le registre de l'innovation, c'est aussi une rupture anthropologique majeure qui nous place devant des choix éthiques", a-t-elle lancé en appelant la Conférence générale à "prendre une décision historique" en donnant ce mandat à l'Unesco.
Les experts vont donc réfléchir aux moyens d'encadrer le développement de l'IA par un certain nombre de grands principes, sans l'entraver pour autant.
Ils se pencheront sur tous les sujets qu'ils estimeront nécessaires, affirme-t-on à l'Unesco, liés par exemple à la diversité culturelle ou de genre, ou encore à la diffusion des savoirs et technologies, les pays en développement ne souhaitant pas rester en marge de cette révolution technologique.
Un des problèmes les plus souvent évoqués en matière d'IA sont les algorithmes discriminatoires, du fait des biais introduits par les humains.
L'IA est en effet basée sur l'apprentissage automatisé à partir de données insérées par le concepteur, que la machine analyse. Si cette matière première est biaisée, le résultat ne peut qu'en être faussé.