Medios extranjeros: Tres pioneros de la IA se oponen a restringir completamente los modelos abiertos

A medida que la controversia sobre la seguridad de la IA se intensifica, medios extranjeros informan que Geoffrey Hinton, Fei-Fei Li y Andrew Ng discutieron recientemente el tema de los modelos abiertos en la conferencia Ai4 en Las Vegas. Aunque sus posturas no son completamente coincidentes, todos se oponen a que unas pocas grandes empresas tecnológicas dominen el ritmo de desarrollo de la IA.

Oposición a que unas pocas empresas controlen el acceso

El artículo menciona que los tres investigadores comparten la preocupación de que si la IA es controlada por unas pocas empresas, el espacio para la innovación podría verse restringido. Andrew Ng expresó claramente que no desea que en el campo de la IA haya "guardianes", ya que esto limitaría la forma en que los desarrolladores, empresas y el público pueden acceder a la IA.

Considera que las grandes empresas naturalmente protegerán sus ventajas, lo que podría influir en la formación de las reglas de la industria. El resultado podría ser que solo las empresas con más recursos financieros y capacidad de cómputo puedan seguir construyendo los sistemas más avanzados. Ng sugiere mantener la coexistencia de múltiples proveedores de modelos, permitiendo que los modelos y las empresas compitan en el mercado, en lugar de dejar que unas pocas plataformas dominen.

Hinton distingue entre código abierto y pesos abiertos

Sin embargo, Hinton no considera que "software de código abierto" y "modelos de pesos abiertos" sean lo mismo. Según él, el software de código abierto hace públicos los códigos, permitiendo que el público revise vulnerabilidades y proponga modificaciones; los pesos abiertos, en cambio, entregan directamente los parámetros de un modelo grande ya entrenado al público, lo que reduce significativamente la barrera para el desarrollo secundario.

Él ha expresado que anteriormente se opuso a los pesos abiertos porque esto permitiría que algunas personas transformaran modelos básicos en herramientas para ataques cibernéticos a un costo más bajo. Sin embargo, también admite que esta discusión es difícil de revertir en la práctica. Con la continua aparición de modelos de pesos abiertos, la barrera que representaban los costos de entrenamiento ha sido notablemente debilitada.

A pesar de esto, Hinton no aboga por detener el desarrollo de la IA. El artículo menciona que todavía cree que la IA aumentará la productividad y mejorará áreas como la educación y la salud, aunque no se deben ignorar los riesgos potenciales. También señala que no es justo clasificar a todos los que expresan preocupaciones sobre los riesgos de la IA como "creadores de pánico".

Li Fei-Fei aboga por una apertura escalonada

A diferencia de Ng, que enfatiza la competencia abierta, y Hinton, que enfatiza los riesgos de seguridad, Li Fei-Fei se opone a simplificar la discusión en "completamente abierto" o "completamente cerrado". Ella argumenta que los complejos sistemas de software y de investigación ya existen en diferentes niveles, y que diferentes etapas pueden adoptar diferentes grados de apertura.

Usando la física nuclear como ejemplo, menciona que los artículos académicos pueden publicarse abiertamente, pero los materiales de uranio están sujetos a estricta regulación, y los experimentos se sitúan entre ambos. A partir de esto, sostiene que la IA también podría adoptar un enfoque similar: mantener cierta apertura en el descubrimiento científico, la educación y la cooperación internacional, mientras permite que las empresas mantengan sistemas y modelos comerciales cerrados.

El artículo también menciona que Li Fei-Fei cita el Proyecto del Genoma Humano para ilustrar que una plataforma de conocimiento fundamental formada por la colaboración entre instituciones públicas y el sector privado puede apoyar simultáneamente el avance de la investigación, la rentabilidad empresarial y la aplicación social. Ella cree que la infraestructura de IA también debería desarrollarse en esta dirección, en lugar de caer en un debate de todo o nada.

Los tres reconocen la necesidad de regulación

Aunque los tres tienen diferentes juicios sobre los límites de los modelos abiertos, sus actitudes hacia la regulación son cercanas. El artículo señala que todos creen que la IA aún necesita cierto grado de regulación para desarrollarse en una dirección más favorable para la sociedad.

Hinton afirma que no se puede dejar completamente a los empresarios decidir cómo debería desarrollarse la IA. La discusión en torno a los modelos abiertos ya no es solo una disputa sobre la ruta técnica, sino que también se relaciona con la distribución del poder en la industria, la competencia internacional y la dirección de la gobernanza de la seguridad de la IA.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.