Safeworld veut prouver que les robots boostés à l'IA générative sont safe

Les robots nouvelle génération tournent de plus en plus avec de l'IA générative aux commandes, et ça change tout : contrairement à un algorithme classique, impossible de prédire exactement ce qu'un modèle génératif va faire face à une situation imprévue. C'est là que Safeworld entre en jeu. Fondée par Ding Zhao (qui dirige le Safe AI Lab de Carnegie Mellon), Kyle Wong et Simo Rachidi, la startup vient de sortir du bois avec 12 millions de dollars levés auprès de Shine Capital, a16z Speedrun et d'autres investisseurs comme Box Group ou SV Angel.

Leur idée : créer des copies numériques ultra-réalistes des environnements où les robots vont bosser (un entrepôt avec un angle mort, une usine, un chantier) et y balancer des milliers de scénarios avec des humains virtuels qui se comportent de façon imprévisible, qui trébuchent, portent des cartons, ou surgissent sans prévenir. Le but, c'est de vérifier qu'un robot garde une distance de sécurité correcte ou détecte bien un humain avant qu'un vrai accident n'arrive sur le terrain.

Les fondateurs misent sur le fait que les fabricants de robots voudront un regard extérieur et indépendant pour valider leurs systèmes, plutôt que de tout garder en interne. Gritt Robotics, qui développe des robots pour l'installation de panneaux solaires, fait déjà partie des premiers partenaires. Comme le résume un des investisseurs, le moment d'établir des standards de sécurité, c'est maintenant, avant que des robots ne commencent à débarquer dans les foyers avec des enfants autour — pas après le premier accident.