Cours 2 - IA

Question 1

quels sont les limites de l’IA générative?

Answer 1

• pas de compréhension du monde
• biais possibles selon les données d’apprentissages fournies
• originalité et créativité: les contenus sont nouveaux mais dérivés des données d’apprentissage
• La fiabilité, la qualité et la précision reste à désirer: il peut y avoir des erreurs
• Les résultats et les processus de génération ne sont pas explicables

Question 2

quels sont les risques de l’IA

Answer 2

• Génération de contenus inadéquats
• Désordre informationnel et désinformation
• Utilisation malveillante
• Sécurité
• Éthique et droits d’auteur
• Atteinte à la confidentialité des données
• Reproduction et amplification de discriminations et de stéréotypes
• Renforcement des fractures numériques.
• Concentration des acteurs de l’IA générative
• Coût environnemental

Question 3

Donnes des exemples de biais de discrimination possibles pas l’IA générative.

Answer 3

• traduction biaisée (selon stéréotypes sexistes)
• assistance vocale souvent femme
• stéréotypes dans la génération d’images
• génération de textes biaisés
• Les outils de recrutement automatisés sont biaisés (moins de femmes engagées)

Question 4

nomme 3 types de biais directement liées aux données

Answer 4

• biais de sélection: les exemples ne correspondent pas à la représentation réelle
• biais de confirmation: interprétation inconsciente des résultats qui confirment ses croyances
• biais de l’expérimentateur: continuer l’entraînement d’un modèle jusqu’à temps que le résultat valide l’hypothèse initiale

Question 5

Comment peut-on lutter contre ces biais?

Answer 5

• être conscients de leur existences
• éviter d’en introduire de nouveau lors de la création de données
• faire attention lors de la collecte de données

Question 6

comment la publicité en ligne peut-elle être discriminatoire?

Answer 6

Il y a un profilage de l’utilisateur basé sur ses données (âge, genre, localisation, emploi, etc.) et souvent, les publicités montrées vont refléter des stéréotypes de genre. Les opportunités d’offre d’emploi ne seront pas les mêmes selon le genre. Par exemple, des offres d’emploi de carrière manuelles vont être proposées à des hommes, et des offres d’emploi d’aide ménagère à des femmes.