Bien que l’intelligence artificielle se développe rapidement, il semble que le système de reconnaissance d’images de Google ait encore une difficulté qui existe depuis huit ans : réussir à détecter des images de gorilles.
Lorsque l’ingénieur logiciel Jacky Alciné a découvert qu’une photo de lui et d’un ami avait été identifiée à tort comme des gorilles par l’algorithme de reconnaissance d’image qui avait été inclus dans l’application Photos de l’entreprise en 2015, l’entreprise a été critiquée. Les deux Alcinés et son compagnon sont Noir. Google a été horrifié et a rapidement corrigé l’erreur raciste en empêchant le programme d’étiqueter les photographies de gorilles.
Le problème n’a toujours pas été corrigé de manière adéquate huit ans plus tard. Les utilisateurs ont pu rechercher leurs images par diverses espèces animales, comme les chats et les kangourous, mais pas par les gorilles, les babouins, les chimpanzés, les orangs-outans ou les singes, selon un Expérience du New York Times.
Les images de primates ne sont toujours pas étiquetées dans le Photos application. Il n’est pas clair si la société ne peut pas résoudre le problème ou si la mise en œuvre de la fonctionnalité serait trop litigieuse ou dangereuse. Fait intéressant, le bogue a également affecté le logiciel de stockage OneDrive de Microsoft et L’application photo d’Applebien que Amazone Photos ont souvent identifié à tort d’autres animaux comme des gorilles.
Alciné a exprimé sa déception que Google n’ait pas encore résolu le problème. Je n’aurai jamais confiance en cette IA, dit-il.
OpenAI promeut le contrôle démocratique des AGI
La branche à but non lucratif d’OpenAI a promis de donner un total de 1 million de dollars à ceux qui ont des suggestions innovantes sur la façon de créer un système démocratique qui permettrait aux gens ordinaires d’influencer l’avancement de l’IA.
Jusqu’au 2 juin, n’importe qui peut soumettre ses suggestions. Les dix meilleures soumissions seront choisies par la startup AI, qui attribuera ensuite à chaque gagnant $100 000 afin qu’ils puissent commencer à développer des prototypes pour leurs concepts.
Cette semaine, OpenAI a déclaré dans un article de blog que “l’AGI devrait bénéficier à toute l’humanité et être conçue pour être aussi inclusive que possible”. « Ce programme de prix est lancé comme un premier pas dans cette direction. Nous recherchons des équipes du monde entier pour créer des preuves de concept pour une procédure démocratique qui pourrait répondre aux préoccupations concernant les normes que les systèmes d’IA doivent respecter.
Selon OpenAI, les subventions sont des expériences et l’entreprise peut ou non mettre en œuvre l’un des concepts. L’entreprise est attirée par les approches qui encouragent les commentaires d’un large éventail de personnes sur des problèmes qui ne sont pas toujours mieux traités en respectant la lettre de la loi.
“Par exemple, étant donné que divers groupes ont des points de vue variés sur les personnalités publiques, dans quelles circonstances les systèmes d’IA devraient-ils dénoncer ou critiquer ces personnes ?
Comment les opinions divergentes doivent-elles être représentées dans les résultats de l’IA ? L’IA devrait-elle représenter la personnalité de la personne moyenne dans le monde, la nation de l’utilisateur, sa démographie ou quelque chose de complètement différent par défaut ? Personne, entreprise ou nation ne devrait avoir le pouvoir de porter ces jugements, a-t-il déclaré.
450 millions de dollars sont levés par Anthropic dans le cadre d’un investissement de série C
Anthropic, une entreprise d’IA formée en partie par d’anciens membres du personnel d’OpenAI, a obtenu 450 millions de dollars lors de sa dernière ronde de financement, dirigée par Spark Capital.
Google, Salesforce Ventures, Sound Ventures, Zoom Ventures et d’autres investisseurs soutiennent l’investissement de série C. Claude, le modèle linguistique étendu d’Anthropic, est utilisé pour recruter de nouveaux consommateurs. Selon PDG Dario Amodeiles fonds seront utilisés pour développer d’autres articles.
« Nous sommes heureux que ces investisseurs et entreprises technologiques estimés aident Anthropic dans son objectif de mener des recherches sur l’IA et de développer des solutions qui font progresser la sécurité. Les solutions que nous développons visent à fournir des services d’IA fiables qui profiteront aux consommateurs et aux entreprises, aujourd’hui et à l’avenir.
Anthropic a déclaré que son objectif était de créer des biens plus sûrs en utilisant des méthodes d’alignement de l’IA pour ordonner à son chatbot de suivre les instructions et de fournir des réponses acceptables. Récemment, l’entreprise a augmenté la prise en charge des jetons de la fenêtre contextuelle de Claude à 100 000, lui permettant d’analyser des centaines de pages de documents à la fois.
Voulez-vous savoir comment vous inscrire au moteur de recherche Google AI ?
Source: Problèmes de reconnaissance d’image de Google : les gorilles posent toujours un problème
