Liens, News, et informations diverses et variées du moment
 

Liens, News, et informations diverses et variées du moment




 


Pour accéder au Tchat de ce site, cliquez [ici].



Si vous aimez
cette page
 : 


==============================================================================================================================================
                        RAPPEL : Tous les articles et informations de ce site sont © BlueMan - REPRODUCTION INTERDITE.

Puisque vous lisez actuellement cet avertissement, cela prouve déjà que vous êtes en train de commettre un acte de piratage par un procédé
de rétro-ingénierie visant à afficher et/ou décoder, puis s'accaparer tout ou partie du contenu de pages protégées par des lois nationales et
internationales sur les droits d'auteur. Il est encore temps de renoncer. Ne devenez pas un minable, un voleur ; cherchez, créez, inventez, apportez quelque chose au monde ! ==============================================================================================================================================



 


Cette page recense des liens et des informations étonnantes ou à connaître.

N'hésitez pas à les consulter, même si la brève semble dater : vous y trouverez des perles.

Bonne exploration !



 Affichage de la News # 9356 




Mot(s) clé(s) à rechercher :   

Vous pouver saisir un ou plusieurs mots clés qui seront rechechés dans toute la Base de Données des News (Les recherches ne sont pas sensibles à la casse).
Les mots tapés doivent être séparés par un espace, et représentent des mots clés partiels ou complets qui peuvent être contigus ou disjoints dans le texte.
Exemple 1 : macron - Exemple 2 : [maj - Exemple 3 : François Asselineau - Exemple 4 : crise financ banqu



 News # 17029 temporairement permanente 

Nous sommes en Mai : merci à ceux qui le peuvent de m'aider financièrement pour le site en faisant un don, [ici] ().

Ce serait très apprécié.

Merci à tous de votre soutien !


Mardi 26 Juin 2018 - News # 9356 

Informatique : Yoshua Bengio, l'un des pères de l'intelligence artificielle, met en garde contre les dérives de sa création. Voir [ici] ().

Au delà de la dangerosité de certains humains qui vont indubitablement programmer des IA de manière négative et très dangereuse, le véritable danger de l'IA réside à mon avis dans la problématique des FONCTIONS D'ÉVALUATION.

Une fonction d'évaluation en IA est généralement programmée par un humain pour désigner un objectif à atteindre avec des critères spécifiques à optimiser. Exemple : un petit robot à chenilles partant d'un point A doit toucher un poteau, situé aléatoirement en un point B, sur un plan comportant des obstacles placés aléatoirement, avec comme critères d'accomplissement la précision (combien le centre avant du robot est centré sur le centre du poteau, ou distance la plus courte entre ces deux repères) et la rapidité (le temps mis pour atteindre l'objectif défini).

Tant que les fonctions d'évaluation sont définies par des humains, "tout va bien", mais le jour où ce sont les IA qui les définissent, et où celles-ci sont définies en cascade, alors là surviennent de suprêmes dangers : l'IA n'ayant aucune conscience (c'est un processus 100% mécanique qui jamais n'aura conscience d'elle-même), la notion de morale n'a aucun sens : seule la satisfaction numérique des fonctions d'évaluation et d'optimisation de leur critères d'accomplissement jouent. Ainsi, une IA peut faire apparaître (par un système d'algorithmes génétiques par exemple) et décider d'utiliser une fonction d'évaluation qui décime des êtres humains pour optimiser l'un de ses critères d'accomplissement, critères que l'on pourrait génériquement appeler "EFFICACITÉ". Il est là le risque. Et il est immense...

Et contrôler ce risque est très difficile : cela revient à évaluer, d'un point de vue de la dangerosité, chaque fonction d'évaluation, une tâche ultra-ardue, et qui devient quasiment impossible lorsqu'il y a des fonctions d'évaluation en cascade, qui prises isolément, ne semblent pas opérer une fonction dangereuse, mais qui ensemble font en réalité un véritable carnage. Sans vouloir gagner un point Godwin, c'est le même problème que la division de la responsabilité dans l'holocauste des juifs : une armée de fonctionnaires appliqués et sérieux, ne faisant chacun qu'une petite tâche inoffensive (hormis ceux qui sont en bout de la chaîne) qui conduisent in fine à la catastrophe. Fabriquer une voie ferrée, construire un camp de prisonniers, conduire un train, etc, ne sont pas des tâches intrinsèquement malfaisantes et dangereuses, mais concourent à un but global ici désastreux.

Le danger en IA est donc un risque systémique lié aux fonctions d'évaluation en cascade décidées par la machine,
qui deviennent incontrôlables d'un point de vue moral, éthique, ou de dangerosité.

En complément sur intelligence artificielle :

En complément sur informatique :

En complément sur danger :

   

Pour afficher toutes les News du jour, cliquez [ici].


Si vous aimez
cette page
 : 




Si vos moyens vous le permettent,  supportez ce site !  Faites régulièrement un don, même très modeste :  $CA 

[Mur des donateurs]   [À propos de la publicité]



Le Design, les Articles et Commentaires de ce Site sont © 2008-2019 BlueMan
Reproduction interdite - Tous droits réservés.




Pour toute question ou commentaire, n'hésitez pas à m'écrire en utilisant cette [PAGE] .