3. Comprendre les risques pour ne plus les subir
Quatre risques réels, tous maîtrisables
3.1 Les hallucinations : définir, détecter, limiter
Définition. Une hallucination est un contenu factuellement faux ou invérifiable, produit par un
modèle génératif et présenté avec le même aplomb qu'un contenu exact : référence bibliographique inexistante, chiffre
inventé, article de loi déformé, événement imaginaire. Ce n'est pas une panne : c'est une conséquence directe du
fonctionnement des modèles LLM, qui génèrent la suite de mots la plus probable au regard de leurs données
d'entraînement, sans base de faits vérifiée10. L'IA ne sachant pas dire
« je ne sais pas », elle apporte toujours une réponse, quitte à en inventer une.
À retenir. Une phrase bien écrite n'est jamais une preuve de vérité :
l'IA ne « sait » pas si ce qu'elle écrit est vrai ou faux, elle prédit des mots par des calculs probabilistes
sophistiqués.
Détecter — quatre réflexes suffisent :
- Vérifier l'existence de toute référence citée (Google Scholar, Cairn, HAL, Journal officiel) : les références inventées sont l'hallucination la plus fréquente en contexte académique ;
- Croiser tout chiffre avec sa source primaire (rapport officiel, base de données, article) avant de le réutiliser ;
- Demander à l'outil de citer ses sources, puis tester les liens : une source introuvable équivaut à un fait non établi ;
- Redoubler de prudence sur les sujets locaux peu documentés en ligne (histoire locale, droit sénégalais, données de terrain) où le modèle « comble les trous » avec du plausible.
Ce dernier point est décisif : les outils dominants (ChatGPT, Gemini, Grok, Copilot, Claude…) sont entraînés sur des
corpus majoritairement occidentaux, très peu africains ou sénégalais. D'où l'importance cruciale du
context engineering : fournir à l'outil les éléments de contexte locaux ou spécifiques au
sujet traité, pour lui permettre d'adapter sa réponse aux attendus.
Limiter. On réduit fortement le risque en ancrant l'outil dans ses propres documents (NotebookLM,
pièces jointes) ; en privilégiant les outils qui citent leurs sources ; en autorisant explicitement l'outil à répondre
« je ne sais pas » ; et en appliquant la triangulation : aucune affirmation importante retenue sans
deux sources indépendantes. Dans un contexte où la publication en ligne rigoureuse des productions locales reste un
chantier, fournir soi-même les ressources à l'IA est d'autant plus efficace.
3.2 La dépendance cognitive : quand l'outil pense à notre place
Le deuxième risque est plus discret. Il s'installe quand l'IA ne se contente plus d'assister une tâche mais remplace
les opérations qui constituent le métier : problématiser, argumenter, rédiger, interpréter. Une étude menée auprès
d'enseignants d'universités africaines montre trois postures dominantes — justification, déni, évitement — dont aucune
ne construit une pratique critique assumée11.
Depuis le terrain. « Utiliser l'IA, c'est comme déléguer sa faculté de
penser à une machine », avertit un enseignant-chercheur de l'UCAD, tandis que la direction des affaires pédagogiques
rappelle qu'« un étudiant qui fait rédiger son mémoire par ChatGPT n'apprend rien »
12.
Le problème n'est pas seulement moral ; il est pédagogique et professionnel. Apprendre, enseigner, encadrer,
analyser ou publier supposent un travail de jugement. Ce jugement s'atrophie lorsqu'on délègue de manière
répétée la formulation, l'argumentation ou la synthèse à un système qui ne supporte aucune responsabilité cognitive
réelle. Le principe protecteur est simple : l'IA assiste des tâches ; elle ne remplace jamais l'effort
intellectuel qui fonde la compétence.
3.3 Langues locales : une IA qui « approxime » le wolof et le pulaar
Les grands modèles restent massivement entraînés sur des corpus anglophones, européens puis francophones ; les
langues africaines y demeurent marginales, du fait notamment du faible taux de numérisation des données africaines. Une
réponse en wolof ou en pulaar peut être grammaticalement plausible mais sémantiquement approximative ou culturellement
mal alignée. L'enjeu est majeur dans un pays où le taux d'alphabétisation (10 ans et plus, toutes langues confondues)
était estimé à 62,2 % en 202313 : près de quatre résidents
sur dix restent éloignés de l'écrit, et l'interface vocale en langue nationale demeure, pour des millions de personnes,
la seule porte d'entrée réelle vers le numérique. Les initiatives comme AWA ou Kallaama14
montrent la voie, mais rappellent une règle : l'inclusion linguistique se teste, elle ne se décrète pas.
Avant tout déploiement en langue locale, faire évaluer les sorties par des locuteurs natifs experts du domaine.
3.4 Éthique et droit : agir dans un cadre encore en construction
Comment citer l'IA dans un mémoire ou un article ? A-t-on le droit de coller dans un outil public des données
d'entretien, des copies d'étudiants, des informations sur des bénéficiaires ? Qui est responsable en cas d'erreur ?
Ces questions n'ont pas encore de réponse juridique stabilisée au Sénégal : la charte de l'UCAD est en
préparation15, la Charte nationale d'éthique de l'IA en éducation est
annoncée16, et la loi de 2008 sur les données personnelles, appliquée par la
CDP, reste le socle juridique de référence17. D'ici la stabilisation des
cadres, trois principes protègent : transparence sur l'usage, traçabilité des productions, et interdiction
stricte de toute donnée sensible dans les outils publics18.
Au regard des évolutions récentes, la loi de 2008 montre ses limites : elle n'intègre ni les données massives
(big data), ni les algorithmes, ni les systèmes d'IA. D'où l'urgence d'un cadre réglementaire dédié à
l'IA dans le contexte sénégalais, couvrant toute la chaîne de valeur : producteurs et acheteurs de solutions,
usagers de l'open source, économie numérique de l'IA, investissements, gestion des risques, protection des pépites
locales, entraînement de modèles locaux, gouvernance des données et des systèmes — à l'image de l'AI Act européen.
