Développeurs autochtones créent des plateformes IA localisées pour protéger la souveraineté des données

Lors du récent rassemblement sur l'IA autochtone, des chercheurs ont présenté de nouvelles plateformes conçues pour intégrer la souveraineté des données dans les outils d'IA générative. Ces avancées répondent à la tension fondamentale entre la demande massive de données de l'IA et la nécessité de protéger le savoir culturel et l'autonomie au sein des communautés autochtones. Des participants du programme Indigenous Pathfinders in AI ont présenté des solutions telles que Landlens, qui analyse les données publiques sur les impacts du développement territorial, et SAI Cheese, une application préventive de soins dentaires qui stocke les dossiers de santé localement. Cet accent mis sur le déploiement local signifie que les plateformes sont conçues pour fonctionner entièrement au sein des réseaux communautaires qu'elles ont été construites, empêchant ainsi l'exfiltration d'informations sensibles hors d'environnements contrôlés. Les discussions ont souligné les risques systémiques inhérents aux modèles d'IA actuels, notamment en ce qui concerne les données de santé. Krystal Tsosie, généticienne de la Nation Diné/Navajo, a noté que les entreprises de technologies de santé à but lucratif utilisent souvent des données provenant de communautés autochtones pour réaliser des innovations finales inaccessibles ou excessivement coûteuses. Elle a soutenu qu'un véritable respect de la souveraineté des données de santé exige que les membres de la communauté définissent les questions de recherche et garantissent que les échantillons et les données restent hébergés sur les terres ancestrales. Ces solutions techniques s'appuient sur des cadres juridiques existants, tels que les principes OCAP des Premières Nations, qui régissent l'utilisation des données autochtones. L'objectif n'est pas simplement la participation à l'IA, mais d'établir des modèles où les communautés conservent la gouvernance de leurs propres informations, assurant ainsi que le bénéfice communautaire demeure un mandat de conception et non une réflexion après coup.