Una conversación reveladora entre Patrick Collison y Sam Altman sobre la economía, IA y los desafíos globales
Cada año, la Fundación Sohn Conference organiza un concurso de ideas de inversión, y la idea ganadora del concurso se presenta en una conferencia que se celebra anualmente en EE. UU. Pero no es lo único que se hace durante dicho evento. En la conferencia de hace un año, el CEO de Stripe, Patrick Collison, entabló una conversación/entrevista con su colega de OpenAI, Sam Altman, en la que hablaron largo y tendido sobre el futuro de la inteligencia artificial (IA).
Economía e Innovación: World Coin y el Crecimiento Económico
La conversación entre Collison y Altman comenzó abordando temas económicos, incluyendo World Coin, el polémico proyecto de criptomoneda de Altman. Altman expresó su convicción de que la IA podría provocar un aumento masivo del crecimiento económico real al identificar las inversiones y los diseños más productivos para las empresas. Según Altman, la IA tiene el potencial de transformar sectores enteros, optimizando recursos y generando eficiencias nunca antes vistas. Un ejemplo destacado por Altman fue la asignación eficaz de fondos a la investigación del cáncer, lo que podría ahorrar miles de millones de dólares y acelerar los avances hacia una cura.
El Impacto de ChatGPT en la Industria de las Búsquedas Web
Un tema crucial en la conversación fue el impacto de ChatGPT y otros proyectos de OpenAI en la industria de las búsquedas web. Altman resumió la situación diciendo: “Los modelos de lenguaje van a cambiar en gran medida las búsquedas en Internet, pero no son una amenaza para las búsquedas. Y serían una amenaza para Google sólo si Google no hiciera nada al respecto… y obviamente Google no va a no hacer nada”. Este comentario se realizó justo antes de la presentación global de Bard en el evento Google I/O, que precedió al actual y más ambicioso Google Gemini.
Altman también destacó dos datos relevantes sobre ChatGPT:
- Uso Común de ChatGPT: El caso de uso más común es el resumen de textos, lo que permite a los usuarios mantenerse al día con los mensajes de correo electrónico y de Slack.
- GPT-4 y Seguridad: Altman comparó la capacidad de GPT-4 con una “bomba nuclear”, destacando la necesidad de medidas de seguridad robustas.
Debates sobre la Seguridad de la IA
La seguridad de la IA fue otro tema central en la discusión. Altman expresó su escepticismo sobre confiar únicamente en el aprendizaje por refuerzo para garantizar la alineación de intereses entre la IA y los humanos. Subrayó la importancia de comprender el funcionamiento interno de los modelos de IA para poder ajustarlos adecuadamente.
Altman comparó la regulación de la IA con la de los materiales nucleares y sugirió la creación de una agencia reguladora mundial, similar a la OIEA, para los sistemas de entrenamiento de IA. Esta agencia podría exigir auditorías y evaluaciones de seguridad antes del lanzamiento de sistemas que superen un determinado umbral.
Crítica a las Discusiones Filosóficas en Redes Sociales
Altman criticó la tendencia de muchas personas a discutir sobre la seguridad de la IA en plataformas como Twitter, sin realizar trabajo técnico tangible. Según él, lo que el mundo necesita es más personas trabajando en soluciones técnicas concretas en lugar de largas diatribas filosóficas.
El Rol de China en la Investigación de IA
Collison y Altman también abordaron la teoría de que los investigadores chinos publican un gran número de artículos, pero su impacto por artículo es relativamente bajo. Altman admitió no confiar plenamente en sus intuiciones al respecto y se declaró confuso sobre la situación.
El Empuje del Código Abierto
Ambos interlocutores destacaron la mejora significativa y rápida de los grandes modelos de lenguaje de código abierto. Altman, aunque reconoce el avance de estos modelos, sostiene que los modelos propietarios seguirán liderando en términos de innovaciones significativas. Sin embargo, cree que los modelos de código abierto serán suficientemente buenos para muchos casos prácticos del día a día y tareas económicamente valiosas.
Altman elogió la contribución de Facebook a través de su modelo LLaMa, que ha impulsado el auge actual de modelos de lenguaje de código abierto. Sin embargo, comentó que la estrategia de IA de Facebook ha sido “poco clara” y espera que adopten una estrategia más coherente en el futuro.
La conferencia de la Fundación Sohn no solo destaca las mejores ideas de inversión, sino que también ofrece un espacio para discusiones profundas sobre el futuro de la tecnología y la economía. ¿Cómo crees que la IA cambiará nuestra economía y sociedad en los próximos años? ¿Será posible encontrar un equilibrio entre innovación y seguridad en el desarrollo de IA?
Es nuestra arma para acabar con la impunidad de los más poderosos.
Te necesitamos a ti también para seguir haciendo un periodismo libre de presiones políticas y económicas
Hay mucho trabajo detrás de una noticia. Contrastar fuentes, redactar, analizar, recabar información… Pero todo esto implica unos costes muy altos, porque aunque parezca una obviedad, hacer buen periodismo, en estos momentos, es complicado.