La línea entre la escritura humana y la generación artificial se está desdibujando rápidamente. Substack acaba de hacer un movimiento para ayudarte a notar la diferencia. La plataforma anunció una nueva función que le permite buscar contenido generado por IA directamente dentro de la aplicación y en la web. Está impulsado por un motor de detección de una empresa llamada Pangram. Esta herramienta ahora se encuentra dentro de publicaciones, notas, respuestas e incluso comentarios de Substack.
La lógica detrás de la actualización es bastante simple. No todo lo que escribe la IA es basura. No toda la escritura que requiere poco esfuerzo proviene de una máquina. Pero los lectores merecen saber en qué invierten su tiempo. Si hace clic en un artículo esperando una voz humana, se sentirá mal cuando se dé cuenta de que es solo ruido algorítmico. Esa discrepancia es el problema que Substack quiere solucionar.
Cómo utilizar la función de detección de IA
No necesita una nueva aplicación para que esto funcione. La herramienta ya está disponible en la web y en la aplicación de iOS. Los usuarios de Android tendrán que esperar un poco más. Para usarlo, simplemente busca el menú “…” de tres puntos en cualquier publicación. Tócalo. Seleccione “Buscar texto AI”. Aparece una pequeña ventana emergente al instante. Muestra un desglose porcentual: cuánto es probable que sea generado por IA, cuánto es asistida por IA y cuánto es puramente humano.
Hay reglas para esto. El texto tiene que ser lo suficientemente largo. Si está viendo un fragmento de menos de 100 palabras, la herramienta lo cerrará. Necesita más datos para dar una lectura. También hay una restricción de tiempo. Solo es elegible el contenido publicado después de las 11:30 a. m. hora del Pacífico del 21 de julio. Intente escanear una publicación anterior y aparecerá una ventana emergente que le indicará que no es elegible. Substack es cauteloso con respecto a la precisión histórica de esta métrica.
Por qué a Substack le importa la procedencia
Chris Best, cofundador y director ejecutivo, lo expresó claramente en la publicación del blog del anuncio. El problema es el engaño. Cuando un lector dedica veinte minutos a un ensayo y no encuentra ningún pensamiento humano detrás de él, la confianza se rompe. La plataforma está tratando de preservar esa confianza.
Vale la pena señalar que la detección depende de la iniciativa del usuario. Pangram solo escanea texto si así lo solicitas. La pelota está en el tejado del lector. Tienes que querer saber la verdad. La herramienta también tiene límites. No puede ver si un humano usó IA para una investigación de antecedentes antes de tomar un bolígrafo (o un teclado). Solo marca la estructura del texto final.
Best incluso agregó una nota personal en sus propias publicaciones a través de la herramienta. “Aún estoy averiguando todo esto”, escribió. “Mientras tanto, estas palabras son mías, para bien o para mal”. Una admisión sincera. Quiere transparencia, incluso si la ciencia de la detección es todavía joven.
Funciones para autores y escritores
No es sólo un dispositivo orientado al lector. Los escritores también obtienen herramientas. Los autores ahora pueden agregar una declaración personalizada que explique su proceso de escritura. Si usaste IA, dilo. Si no lo hiciste, acláralo también. Esta nota aparece cuando alguien ejecuta la herramienta de detección en su trabajo.
Los autores también tienen poder. Si cree que Pangram etiquetó mal su trabajo, puede realizar la detección usted mismo y enviar un informe. Puede disputar el hallazgo. Incluso puedes eliminar por completo el indicador de detección de IA desactivando la función en tu contenido. Es su elección mantener la etiqueta visible, independientemente de lo que diga el algoritmo.
¿Cómo funciona realmente bajo el capó? Pangram utiliza una red neuronal clasificadora. Está capacitado para distinguir patrones humanos de patrones de IA. Para evitar sesgos, entrenaron el modelo con texto escrito por humanos publicado antes de 2021. Eso fue antes de que la IA generativa inundara Internet. Esto garantiza que la línea de base para “humano” sea pura. Mantiene las muestras generadas por IA fuera de los datos de entrenamiento, lo que evita falsos positivos posteriores.
El panorama más amplio de la escritura en línea
Vivimos en un momento en el que el volumen de texto de IA se está disparando. Un estudio reciente realizado por la empresa de marketing digital Graphito afirma que los artículos en línea escritos principalmente por IA ahora son iguales a los escritos por humanos. El panorama está cambiando rápidamente.
Varias publicaciones se han enfrentado a reacciones negativas por depender de la IA. Algunos de estos artículos estaban llenos de alucinaciones y errores. Otros fueron atribuidos a autores falsos creados por IA. Crea una espiral de confusión. Los lectores dejan de saber quién es real.
Substack lo ve venir. Están considerando más funciones. Imagínese filtrar su feed para mostrar solo contenido escrito por humanos. Puede establecer preferencias para excluir la IA por completo. Best dice que están escuchando los comentarios de los usuarios. Si desea pureza, es posible que la herramienta pronto se la proporcione.
Pero por ahora, hay que hacer el trabajo preliminar. Tienes que tocar ese menú. Tienes que escanear. La herramienta es un comienzo. No es un equilibrio perfecto. Es una señal en el ruido. ¿Atrapará todo? Probablemente no. Pero plantea la pregunta correcta: ¿quién está hablando realmente contigo? La respuesta importa.
