Accueil > Dictionnaire > Définitions du mot « seldonien »

Seldonien

[sɛldɔ̃jɛ̃]

Dernière mise à jour le 22 août 2024 - - Nous soutenir

Définitions de « seldonien »

Se dit, en intelligence artificielle, d'une approche visant à garantir la protection des êtres humains contre les effets potentiellement nuisibles des machines intelligentes.

Le modèle mathématique identifie les variables porteuses d’informations potentiellement discriminatoires pour réduire, voire éliminer, leurs contributions au processus de décision finale, évitant ainsi les discriminations. Cette approche pionnière ne faisait pas référence à Asimov. Pourtant, elle était dans la même lignée que l’étude récente sur les algorithmes seldoniens.
— Nozha Boujemaa, Apprentissage automatique : Isaac Asimov à la rescousse ?

Du nom de Hari Seldon, principal personnage de science-fiction d’Isaac Asimov.

Vous avez raison pour les chaines et pour vos « vraie IA » que nous appelons « IA forte » qui n’existent pas encore. En fait je suis allé voir cet « algorithme seldonien » il ne s’agit que d’un outil permettant de créer des préjugés discriminatoire pour les IA. Très utile dès lors que l’on veut interdire certaines solutions possible mais que l’on à anticipé. Dans le cadre d’une hypothétique IA forte cela devient ridicule car il nous serait impossible de recenser tous les solutions possibles sachant que l’on ne connais pas les questions que pourrait se poser une telle IA. Une petit exemple de… Lire la suite »
Toms Guide : actualités high-tech et logiciels — Des scientifiques ont trouvé le moyen d'empêcher les IA de se rebeller