Medios extranjeros: Tres pioneros de la IA se oponen a restringir completamente los modelos abiertos

A medida que aumentan las controversias sobre la seguridad de la IA, los medios extranjeros informan que Geoffrey Hinton, Fei-Fei Li y Andrew Ng discutieron recientemente el tema de los modelos abiertos en la conferencia Ai4 en Las Vegas. Aunque sus posturas no son completamente coincidentes, todos se oponen a que unas pocas grandes empresas tecnológicas dominen el ritmo de desarrollo de la IA.

Oposición a que unas pocas empresas controlen el acceso

El artículo señala que los tres investigadores comparten la preocupación de que si la IA es controlada por unas pocas empresas, el espacio para la innovación podría verse reducido. Andrew Ng expresó claramente que no desea que aparezcan "guardianes" en el campo de la IA, ya que esto limitaría la forma en que los desarrolladores, las empresas y el público pueden acceder a la IA.

Él cree que las grandes empresas naturalmente protegerán sus ventajas, lo que podría influir en la formación de las reglas de la industria. El resultado podría ser que solo las empresas con más recursos financieros y capacidad de cómputo puedan seguir construyendo los sistemas más avanzados. Ng propone mantener la coexistencia de múltiples proveedores de modelos, permitiendo que los modelos y las empresas compitan en el mercado, en lugar de dejar que unas pocas plataformas dominen.

Hinton distingue entre código abierto y pesos abiertos

Sin embargo, Hinton no considera que "software de código abierto" y "modelos de pesos abiertos" sean lo mismo. Según él, el software de código abierto publica el código, permitiendo que el público revise vulnerabilidades y sugiera modificaciones; los pesos abiertos, por otro lado, entregan directamente los parámetros del modelo entrenado al público, lo que reduce significativamente la barrera para el desarrollo secundario.

Él ha expresado que anteriormente se opuso a los pesos abiertos porque esto permitiría que algunas personas transformaran modelos básicos en herramientas para ataques cibernéticos a un costo menor. Sin embargo, también admite que esta discusión es difícil de revertir en la práctica. Con la continua aparición de modelos de pesos abiertos, las barreras que antes imponía el costo de entrenamiento se han debilitado notablemente.

A pesar de esto, Hinton no aboga por detener el desarrollo de la IA. El artículo menciona que todavía cree que la IA mejorará la productividad y beneficiará campos como la educación y la salud, aunque no se deben ignorar los riesgos potenciales. También señala que no es justo clasificar a todos los que expresan preocupaciones sobre los riesgos de la IA como "creadores de pánico".

Fei-Fei Li aboga por una apertura escalonada

A diferencia de Ng, quien enfatiza la competencia abierta, y Hinton, quien enfatiza los riesgos de seguridad, Fei-Fei Li se opone a simplificar la discusión a las opciones de "totalmente abierto" o "totalmente cerrado". Ella argumenta que los complejos sistemas de software y de investigación ya existen en diferentes niveles, y que diferentes etapas pueden adoptar diferentes grados de apertura.

Ella utiliza la física nuclear como ejemplo, señalando que los artículos académicos pueden publicarse abiertamente, pero los materiales de uranio están estrictamente regulados, y los experimentos se encuentran en un punto intermedio. A partir de esto, ella sugiere que la IA también puede adoptar un enfoque similar: mantener cierta apertura en el ámbito de los descubrimientos científicos, la educación y la cooperación internacional, al tiempo que permite a las empresas mantener sistemas y modelos comerciales cerrados.

El artículo también menciona que Fei-Fei Li cita el Proyecto del Genoma Humano para ilustrar que una plataforma de conocimiento básica formada por la colaboración entre instituciones públicas y el sector privado puede apoyar simultáneamente el avance de la investigación, la rentabilidad empresarial y la aplicación social. Ella cree que la infraestructura de IA también debería desarrollarse en esta dirección, en lugar de caer en un debate de todo o nada.

Los tres reconocen la necesidad de regulación

Aunque los tres tienen diferentes juicios sobre los límites de los modelos abiertos, sus actitudes hacia la regulación son similares. El artículo indica que todos creen que la IA aún necesita cierto grado de regulación para desarrollarse en una dirección más beneficiosa para la sociedad.

Hinton afirma que no se puede dejar que los empresarios decidan completamente cómo debe desarrollarse la IA. La discusión en torno a los modelos abiertos ya no es solo una disputa sobre la ruta técnica, sino que también se relaciona con la distribución del poder en la industria, la competencia internacional y la dirección de la gobernanza de la seguridad de la IA.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.