Pangram es una startup innovadora en el campo de la inteligencia artificial, compuesta por un equipo de 24 empleados y ubicada en una singular sede sobre un restaurante Popeyes en Brooklyn. Hasta el momento, ha logrado recaudar 13 millones de dólares, lo que equivale a aproximadamente el 0.0072% del capital acumulado por OpenAI. Aunque era prácticamente desconocida hasta principios de este año, Pangram se ha posicionado como una de las principales barreras ante la creciente influencia de la IA en el ámbito de la escritura.
La promesa de la detección de IA
Pangram se dedica a identificar el porcentaje de inteligencia artificial que ha influido en la creación de un texto. En enero, comenzaron a surgir rumores en plataformas como Reddit y YouTube, señalando que la autora Mia Ballard podría haber utilizado IA para redactar su novela «Shy Girl», la cual fue adquirida por Hachette para su publicación. A pesar de que Ballard desmintió estas acusaciones, el CEO de Pangram, a través de su cuenta en X, reveló que el libro contenía un 78% de contenido generado por IA, lo que llevó a Hachette a cancelar su lanzamiento.
Este incidente marcó el inicio de una serie de acusaciones similares. El New York Times, por ejemplo, recibió críticas por publicar una entrega en su columna Modern Love, que Pangram evaluó con un 100% de probabilidad de haber sido generada por IA. Otros casos siguieron, incluyendo un relato corto galardonado con el Premio Commonwealth que también obtuvo un 100%, y la novela «Daggermouth» que recibió un 60%. Un thriller titulado «Call Me, I’ll Hide the Body» fue vendido por 2.4 millones de dólares y presentado con un 97% de probabilidad de haber sido generado por IA.
Substack y la integración con Pangram
A finales de julio, Substack anunció su decisión de integrar la tecnología de Pangram en su plataforma, permitiendo a los lectores identificar rápidamente el uso de IA en los textos. Sin embargo, no todos los escritores ven esta implementación como algo positivo. Jane Friedman, autora y experta en edición, menciona que hay un fuerte rechazo y enfado hacia el software de detección de IA, sugiriendo que se percibe como más dañino que las mismas empresas de IA.
Fuera del ámbito editorial y académico, Pangram aún no es un nombre común, pero su relevancia está en aumento debido a la creciente necesidad de diferenciar entre la producción de grandes modelos de lenguaje y la escritura humana. La pregunta que se plantea es: ¿cuánta confianza se puede depositar en esta empresa emergente?
Conociendo a Max Spero y el nacimiento de Pangram
Max Spero, cofundador y CEO de Pangram, se une a nuestra reunión virtual desde su teléfono, con una caja de comida en mano y el paisaje urbano de fondo. A sus 30 años, su apariencia juvenil y su actitud amigable son evidentes. Tras un breve receso para atender otros compromisos laborales, Spero comparte que Pangram recientemente recaudó 9 millones de dólares y lanzó su nuevo modelo, el Pangram 4, lo que ha llevado a la búsqueda de nuevos talentos para ampliar su equipo en un 25%.
Al preguntarle sobre su infancia en California, Spero se muestra menos cómodo, prefiriendo discutir los aspectos técnicos de su empresa. Nacido en La Crescenta, un suburbio de Los Ángeles, Spero mostró interés por la programación desde joven y se unió al equipo de robótica de su escuela. Durante su tiempo en Stanford, conoció a Bradley Emi, quien se convertiría en su socio fundador en Pangram.
Después de graduarse, Spero trabajó en Google, donde formó parte del desarrollo de FLoC, una tecnología destinada a reemplazar las cookies de terceros. Posteriormente, se unió a Nuro, una empresa de vehículos autónomos, mientras que Emi tuvo experiencias en Tesla y en la biotecnología centrada en IA en Absci. La aparición de ChatGPT en 2022 les brindó la oportunidad de abordar un futuro donde el contenido generado por IA comenzaba a proliferar.
La controversia en el mundo literario
El incidente con «Shy Girl» fue un catalizador que impulsó a Pangram a la atención pública. Spero había indicado previamente casos sospechosos de escritura generada por IA en sus redes sociales, por lo que no le sorprendió recibir un PDF del manuscrito de Ballard. Tras analizarlo con Pangram, el New York Times solicitó su opinión sobre el caso. Sin embargo, Spero minimiza la relevancia de Pangram en este escándalo, sugiriendo que la puntuación de la herramienta es solo una pequeña parte de un contexto mucho más amplio.
Desde entonces, Pangram ha sido objeto de controversias. Tras determinar que un ganador del Premio de Cuento Corto de la Commonwealth tenía un alto porcentaje de contenido potencialmente generado por IA, la empresa examinó a todos los ganadores desde 2012 y encontró otros tres casos similares. A pesar de las críticas, Spero sostiene que la herramienta no es el único factor que determina los contratos editoriales, aunque sí es un elemento a considerar.
La percepción de la IA en la industria editorial
La integración de Pangram con Substack ha suscitado reacciones mixtas entre los autores. Spero argumenta que los escritores no deberían temer revelar el uso de IA si su trabajo es de calidad y atractivo para el lector. Sin embargo, algunos autores sienten que su carrera puede verse en riesgo con solo un análisis en la plataforma.
A pesar de la resistencia, cada vez más autores, editoriales y agentes están utilizando herramientas de detección de IA. Según una encuesta de Gotham Ghostwriters, el 61% de los escritores activos emplean IA, y un 7% ha publicado textos generados por esta tecnología. Un estudio realizado por Tuhin Chakrabarty en la Universidad de Stony Brook reveló que un 20% de las novelas autoeditadas presentaban indicios significativos de IA según Pangram.
El futuro de Pangram y su impacto en la creatividad
Los críticos de Pangram han señalado desafíos en su funcionamiento, incluida la posibilidad de falsos positivos y sesgos en su sistema de aprendizaje automático. Se ha encontrado que los textos escritos por personas cuya lengua materna no es el inglés son más propensos a ser clasificados como generados por IA. Esta problemática ha suscitado preocupaciones sobre la equidad en la detección de IA, especialmente en lo que respecta a autores de color.
Spero ha respondido a las acusaciones de falsos positivos ofreciendo recompensas a quienes puedan demostrar que su obra fue escrita por ellos. Sin embargo, hasta el momento, nadie ha aceptado la oferta. Hay quienes han logrado manipular sus textos para evadir la detección, lo que pone de relieve las limitaciones de la tecnología actual.
Pangram continúa refinando su herramienta para mejorar la precisión, aunque reconoce que su eficacia puede variar según el contexto del texto analizado. A medida que la conversación sobre la detección de IA avanza, el equipo de Spero se compromete a generar confianza a través de la transparencia y a mantener un diálogo abierto con la comunidad. A pesar de los desafíos, Pangram se encuentra en una posición crucial en el debate sobre la creación literaria y la autenticidad en la era digital.
