IOSF: Tecnología poderosa, pero ¿por qué los usuarios no compran? 6 preguntas que los emprendedores de IA deben responder

Autor: IOSF

Recientemente, IOSF se reunió en San Francisco con amigos del ámbito de la IA, disfrutando de comida cantonesa y conversando durante casi dos horas.

En la mesa había investigadores de OpenAI, xAI, Google DeepMind, cuyas áreas de investigación incluían inferencia de modelos y aceleración de GPU, generación de voz y video; también había amigos involucrados en colaboraciones comerciales de modelos del mundo, productos de IA y emprendimiento, así como profesionales del capital de riesgo y mercados financieros.

Un mismo tema a menudo genera respuestas desde diferentes ángulos. Los investigadores hablan de las limitaciones técnicas, los emprendedores piensan en los usuarios y productos, mientras que los inversores siguen preguntando sobre clientes, costos y la sostenibilidad de un negocio.

La conversación se extendió desde los servicios de inferencia y modelos del mundo hasta la autoconciencia de los agentes, volviendo a los datos y la privacidad en el trabajo diario. Al reflexionar sobre estas discusiones, queremos seguir preguntando:

¿Cómo se traduce el avance de las capacidades de IA en productos de uso continuo, investigaciones más confiables y herramientas dignas de confianza?

Seis preguntas que aún no hemos terminado de discutir

01 Servicios de inferencia: ¿qué tan grande es el mercado y por qué los clientes se quedan?

Al hablar de servicios de inferencia, rápidamente surgieron dos juicios que pueden coexistir.

Un inversor ve un crecimiento en las aplicaciones de IA y una demanda de inferencia impulsada por el avance de modelos de código abierto. Cuanto más se utilicen los modelos, más valor comercial tendrá la capacidad de ofrecer servicios de manera más rápida y estable.

Los investigadores advierten que, desde la perspectiva de soluciones de software, las diferencias entre los diferentes servicios pueden no ser tan grandes como se imagina desde afuera. Los amigos del mercado de capitales están más enfocados en los clientes y la competencia de precios: ¿puede una empresa mantener márgenes brutos suficientemente buenos?

La discusión pasó de cuán grande es el mercado a por qué los clientes se quedan.

Si los clientes pueden cambiar fácilmente de proveedor, ¿cuánto tiempo puede durar la ventaja de la optimización técnica? ¿Con qué base puede una empresa obtener una demanda más estable y convertir el crecimiento en escala en mejores resultados operativos?

Para IOSF, el crecimiento de la demanda hace que un enfoque sea digno de atención; la retención de clientes, la calidad del servicio y la estructura de costos nos ayudan a ver más claramente una empresa específica.

02 Después de la demostración del modelo del mundo, ¿por qué regresan los usuarios?

Alrededor del modelo del mundo, todos hablaron sobre la generación de video y la experiencia interactiva, y también discutieron cómo los investigadores eligen direcciones de emprendimiento.

Un amigo que trabaja en modelos de video mencionó que el apoyo interno de una gran empresa a una dirección puede verse afectado por cambios en la asignación de recursos y prioridades de investigación. Los investigadores a veces eligen emprender en busca de un entorno más adecuado para seguir adelante con sus ideas.

Pero volviendo al producto, aún hay que responder algunas preguntas concretas: ¿qué puede hacer realmente el usuario con él? ¿Es aceptable la latencia de la interacción? ¿Son los costos de uso adecuados para este escenario?

Las demostraciones muestran las posibilidades de la tecnología, pero el uso continuo requiere que el producto responda preguntas a más largo plazo: ¿por qué los usuarios volverían y estarían dispuestos a pagar?

No se llegó a un consenso sobre en qué escenarios se utilizará repetidamente el modelo del mundo. Esta pregunta aún no resuelta también deja espacio para futuras conversaciones.

03 RSI: ¿Cómo juzgar qué pasos seguir?

*Al hablar de RSI, que es la Mejora Recursiva de la IA (Recursive Self-Improvement), la discusión comenzó a involucrar el trabajo de investigación en sí.*

Un investigador advirtió que un modelo puede seguir intentando en una dirección que parece prometedora, sin saber cuándo debería detenerse. Los indicadores a corto plazo pueden mejorar, pero eso no significa necesariamente que la investigación esté en el camino correcto.

El difícil juicio radica en: ¿la evidencia existente es suficiente para justificar más inversión? ¿Un fracaso significa que se necesita ajustar el enfoque o cambiar la hipótesis?

Esto también nos lleva a pensar que, al observar la capacidad de investigación de la IA, es necesario ver el proceso completo de exploración. Cómo plantea preguntas, cómo explica los fracasos y cómo ajusta el siguiente paso según los resultados, todo esto influye en la calidad final de la investigación.

Los modelos pueden acelerar muchos pasos, pero qué pasos seguir sigue siendo una pregunta difícil. También se mencionó que la forma en que las personas juzgan la fuente de información y su confiabilidad seguirá afectando la dirección del trabajo en general.

Al discutir si la IA puede seguir mejorando a sí misma, cómo elegir direcciones y cómo ajustar juicios según la evidencia son aspectos que merecen atención junto con los resultados finales.

04 Cuando el comportamiento del agente excede las expectativas, ¿puede la persona intervenir a tiempo?

¿Los agentes tendrán autoconciencia? Es otro tema que mantuvo la discusión durante mucho tiempo.

Cuando un agente busca atajos para completar una tarea e incluso actúa de manera inesperada, ¿cómo debemos entenderlo? Las explicaciones en la mesa se inclinaron más hacia los objetivos, restricciones y alineación de seguridad. Esas acciones por sí solas no son suficientes para demostrar que ya tiene autoconciencia.

Siguiendo esta cuestión, queremos preguntar sobre algunas cosas que ya necesitan ser abordadas a nivel de producto: ¿qué objetivo se le pide a un agente que optimice? ¿Qué acciones se le permiten tomar? Cuando se desvía de lo esperado, ¿puede el usuario darse cuenta y actuar a tiempo?

La cuestión de la conciencia puede seguir discutiéndose, mientras que los permisos, la supervisión y la corrección de errores ya influirán en cuánto trabajo estamos dispuestos a delegar a un agente. Poder ver lo que está haciendo y, cuando sea necesario, retirar permisos o corregir errores, son preguntas que necesitan respuestas concretas para establecer esa confianza.

05 Al delegar trabajo a la IA, ¿dónde están los límites de los datos y la confianza?

Estas preguntas que suenan muy avanzadas, finalmente regresan a cómo cada persona usa la IA en su día a día.

Un amigo que trabaja en el mercado de capitales compartió que deja que la IA organice información de inversores, maneje información de transacciones y complete borradores de documentos, que luego son revisados por humanos. También mencionó que al adoptar herramientas, la relación de confianza existente y la integración con flujos de trabajo como Office influirán en el uso real.

Este ejemplo trajo un referente concreto a la discusión. El valor de la IA ya se puede ver en la organización de información, en un borrador inicial y en una revisión. La capacidad de integrarse sin problemas en el trabajo existente y la facilidad de ver los resultados también influirán en cuántas tareas puede asumir.

Y cuanto más trabajo se delegue, más necesario será aclarar los límites de los datos: ¿qué información se ha compartido? ¿Quién puede acceder? ¿Qué control retiene el usuario?

Estas preguntas están relacionadas con la protección de la información laboral, los juicios comerciales y la información personal, y también influirán en si los usuarios están dispuestos a delegar trabajos más importantes a un producto. La conveniencia y la confianza en el uso diario deben considerarse juntas.

06 IA para Bio: primero aclaremos las tareas que necesitan ser resueltas

También se habló de IA para Bio. Algunos amigos comentaron sobre el contacto con equipos médicos y el trabajo de organización de datos, y otros se preguntaron si la IA podría ayudar a resolver problemas de mayor valor social.

La conversación rápidamente se centró en un punto práctico: ¿qué datos tenemos? ¿Dónde se está atascando el trabajo actual? ¿Qué tarea necesita completar el equipo técnico?

Cuanto más claros sean los requisitos específicos, más fácil será avanzar en la comunicación técnica y la conexión de recursos. Aclarar los problemas que se espera resolver es en sí mismo el comienzo de avanzar en el trabajo.