Avec l’émergence rapide de l’intelligence artificielle dans la sphère publique et sa saisie par les pouvoirs publics, son utilisation devient un enjeu d'importance majeure. Consciente de cette situation, la Session des jeunes souhaite encadrer l’usage de l’intelligence artificielle à l’aide des trois mesures suivantes : Informer systématiquement une personne lorsqu’une intelligence artificielle est utilisée pour lui fournir un service automatisé (chatbots, recommandations automatisées) ou pour prendre ou assister à la prise de décisions le concernant (bourses, subventions, assignation d’un domicile...) ; Indiquer à la personne concernée les instructions et critères qui ont été communiqués à l’outil d’intelligence artificielle pour fournir son service ou rendre sa décision à son sujet (exigences, chiffres et valeurs, processus logiques) ; Rendre disponibles publiquement (open source) les détails du code, de l’algorithme et des données d’entraînement des programmes d’intelligence artificielle créés et utilisés pour ces opérations dans un cadre public — à l'exception des éventuels outils pour lesquels une confidentialité renforcée est nécessaire, par exemple dans le domaine de la sécurité nationale.
Ces mesures permettront de garantir la transparence de prises de décisions publiques qui seraient autrement opaques. Elles permettront également un contrôle citoyen du bon fonctionnement des outils utilisés afin de permettre de repérer d’éventuels biais. De tels biais ont par exemple pu être observés dans le cas des Pays-Bas, dans l'affaire dite "Toeslagen". Une intelligence artificielle auto-apprenante y était utilisée pour identifier les fraudeur*euses potentiel*les dans le versement d'allocations familiales et a ainsi "accusé" à tort plus de 20 000 familles sur la base de critères discriminants, notamment leur origine migratoire. Les familles concernées se sont vues intimer de rembourser les allocations qu'elles avaient ainsi reçu légalement, les mettant en difficulté financière voire les faisant tomber dans la pauvreté. La découverte de ce dysfonctionnement a entraîné un scandale de grande envergure, causant la démission du gouvernement néérlandais. Afin de répondre à ces problématiques, les mesures proposées par cette motion posent les bases d'une utilisation responsable de l'intelligence artificielle dans le domaine public en Suisse en garantissant sa transparence et son contrôle citoyen. Ainsi, la Suisse pourra bénéficier des formidables possibilités qu'apporte cette nouvelle technologie tout en parant aux risques éventuels qui vont avec son utilisation.
| Aucune pièce jointe déposée. |
Suivi par le Forum terminé? Non