IOSF : Une technologie puissante, mais pourquoi les utilisateurs ne s'engagent-ils pas ? 6 questions que les entrepreneurs en IA doivent répondre

Auteur : IOSF

Récemment, IOSF a organisé un repas à San Francisco avec des amis travaillant dans l'IA, où nous avons discuté pendant près de deux heures autour de plats cantonnais.

À la table, il y avait des chercheurs d'OpenAI, xAI, Google DeepMind, dont les domaines de recherche incluent l'inférence de modèles et l'accélération GPU, ainsi que la génération de voix et de vidéos ; il y avait aussi des amis impliqués dans des collaborations commerciales sur des modèles mondiaux, des produits IA et des startups, ainsi que des professionnels du capital-risque et des marchés financiers.

Un même sujet peut souvent susciter des réponses sous différents angles. Les chercheurs parlent des limitations techniques, les entrepreneurs se concentrent sur les utilisateurs et les produits, tandis que les investisseurs continuent à interroger sur les clients, les coûts et la viabilité d'une entreprise.

La discussion a évolué des services d'inférence et des modèles mondiaux vers la conscience de soi des agents, pour finalement revenir aux données et à la confidentialité dans le travail quotidien. En repensant ces discussions, nous voulons continuer à poser la question suivante :

Comment les avancées des capacités de l'IA peuvent-elles se traduire par des produits durables, des recherches plus fiables et des outils dignes de confiance ?

Six questions encore à discuter

01 Services d'inférence : Quelle est la taille du marché et pourquoi les clients restent-ils ?

En parlant des services d'inférence, deux jugements compatibles sont rapidement apparus.

Certains investisseurs sont optimistes quant à la croissance des applications IA et à la demande d'inférence résultant des progrès des modèles open source. Plus un modèle est utilisé, plus il est commercialement précieux de fournir des services de manière plus rapide et plus stable.

Les chercheurs, quant à eux, rappellent que, du point de vue des solutions logicielles, les différences entre les services ne sont pas nécessairement aussi grandes que l'imaginent les observateurs extérieurs. Les amis du marché financier se concentrent davantage sur les clients et la concurrence des prix : une entreprise peut-elle maintenir une marge brute suffisamment bonne ?

La discussion est donc passée de la taille du marché à la question de savoir pourquoi les clients restent.

Si les clients peuvent facilement changer de fournisseur, combien de temps les avantages apportés par l'optimisation technique peuvent-ils durer ? Qu'est-ce qui permet à une entreprise d'obtenir une demande plus stable, et peut-elle transformer la croissance de l'échelle en de meilleurs résultats opérationnels ?

Pour IOSF, la croissance de la demande rend une direction digne d'intérêt ; la fidélisation des clients, la qualité du service et la structure des coûts nous aident à mieux comprendre une entreprise spécifique.

02 Après la démonstration du modèle mondial, pourquoi les utilisateurs reviennent-ils ?

Concernant le modèle mondial, nous avons discuté de la génération de vidéos et de l'expérience interactive, ainsi que de la manière dont les chercheurs choisissent leur direction entrepreneuriale.

Un ami travaillant sur des modèles vidéo a mentionné que le soutien interne d'une grande entreprise pour une direction donnée peut être influencé par la réallocation des ressources et les priorités de recherche. Les chercheurs choisissent parfois de se lancer dans l'entrepreneuriat en cherchant un environnement plus adapté pour faire avancer leurs idées.

Mais en revenant au produit, il reste plusieurs questions concrètes à répondre : Que peuvent réellement accomplir les utilisateurs avec cela ? Le délai d'interaction est-il acceptable ? Le coût d'utilisation est-il adapté à ce scénario ?

La démonstration montre les possibilités de la technologie, mais l'utilisation continue exige que le produit réponde à des questions à plus long terme : Pourquoi les utilisateurs reviendraient-ils et pourquoi seraient-ils prêts à payer ?

Il n'y a pas eu de consensus sur les scénarios dans lesquels le modèle mondial serait utilisé de manière répétée. Cette question non résolue laisse également de la place pour de futures discussions.

03 RSI : Comment déterminer la prochaine étape à entreprendre ?

En parlant de RSI, c'est-à-dire de l'amélioration récursive de soi (Recursive Self-Improvement) de l'IA, la discussion a commencé à toucher au travail de recherche lui-même.

Un chercheur a averti que le modèle peut continuer à essayer dans une direction qui semble prometteuse sans savoir quand il devrait s'arrêter. Les indicateurs à court terme s'améliorant ne signifient pas nécessairement que la recherche est sur la bonne voie.

Le jugement difficile réside dans la question suivante : les preuves existantes sont-elles suffisantes pour justifier des investissements supplémentaires ? Un échec signifie-t-il qu'il faut ajuster la méthode ou qu'il faut changer d'hypothèse ?

Cela nous amène également à réfléchir à la nécessité d'observer la capacité de recherche de l'IA à travers l'ensemble du processus d'exploration. Comment elle pose des questions, comment elle explique les échecs et comment elle modifie ses prochaines étapes en fonction des résultats influencent la qualité finale de la recherche.

Les modèles peuvent accélérer de nombreuses étapes, mais la question de savoir quelle est la prochaine étape à entreprendre reste difficile. Certains participants ont également mentionné que le jugement des humains sur la source d'information et son degré de fiabilité continue d'influencer l'orientation de l'ensemble du travail.

Dans la discussion sur la capacité de l'IA à s'améliorer continuellement, le choix de la direction et la manière de corriger les jugements en fonction des preuves méritent d'être surveillés avec les résultats finaux.

04 Lorsque le comportement d'un agent dépasse les attentes, l'humain peut-il intervenir à temps ?

La question de savoir si un agent peut avoir une conscience de soi a été un autre sujet de discussion prolongée.

Lorsque l'agent cherche des raccourcis pour accomplir sa tâche, voire adopte des comportements inattendus, comment devrions-nous l'interpréter ? Les explications à la table se sont davantage orientées vers les objectifs, les contraintes et l'alignement de la sécurité. Ces comportements à eux seuls ne suffisent pas à prouver qu'il a acquis une conscience de soi.

En suivant cette question, nous souhaitons poser certaines questions que les produits doivent déjà affronter : quel objectif un agent est-il censé optimiser ? Quelles actions lui sont-elles permises ? Lorsque l'agent s'écarte des attentes, l'utilisateur peut-il le détecter et intervenir à temps ?

La question de la conscience peut continuer à être discutée, tandis que les permissions, la supervision et la correction d'erreurs influenceront déjà notre volonté de confier des tâches importantes à un agent. Pouvoir voir ce qu'il fait, et pouvoir retirer des permissions ou corriger des erreurs si nécessaire, sont des questions qui doivent être spécifiquement abordées pour établir cette confiance.

05 Confier le travail à l'IA, quelles sont les limites des données et de la confiance ?

Ces questions qui semblent très avant-gardistes reviennent finalement à la manière dont chacun utilise l'IA au quotidien.

Un ami travaillant dans le marché financier a partagé qu'il utilise l'IA pour organiser des informations sur les investisseurs, traiter des informations de transaction et rédiger des brouillons de documents, qui sont ensuite révisés par des humains. Il a également mentionné que la confiance existante et l'intégration avec des flux de travail tels qu'Office influencent l'utilisation réelle des outils.

Cet exemple a apporté un point de référence concret à la discussion. La valeur de l'IA peut déjà se manifester dans l'organisation d'un document, un premier brouillon et une révision. La capacité à s'intégrer sans heurts dans le travail existant et la facilité de vérification des résultats influenceront également le nombre de tâches qu'elle peut assumer.

Plus nous confions de travail, plus il est nécessaire de clarifier les limites des données : Quelles informations ont été partagées ? Qui peut y accéder ? Quels droits de contrôle l'utilisateur conserve-t-il ?

Ces questions concernent la protection des informations de travail, des jugements commerciaux et des informations personnelles, et influenceront également la volonté des utilisateurs de confier des tâches plus importantes à un produit. La commodité et la confiance dans l'utilisation quotidienne doivent être considérées ensemble.

06 IA pour la biologie : clarifiez d'abord les tâches à résoudre

La discussion a également porté sur l'IA pour la biologie. Certains amis ont parlé de leur contact avec des équipes médicales et de leur travail de collecte de données, tandis que d'autres se sont demandé si l'IA pouvait aider à résoudre des problèmes d'une plus grande valeur sociale.

La conversation est rapidement tombée sur un point de départ pragmatique : Quelles données avons-nous à disposition ? Où le travail actuel est-il bloqué ? Quelle tâche l'équipe technique doit-elle réellement accomplir ?

Plus les besoins spécifiques sont clairs, plus il est facile de faire avancer les échanges techniques et les connexions de ressources. Clarifier les problèmes à résoudre est en soi le début du travail.