Topic: Cuentas Chat GPT en Bitcointalk - haberlas haylas - page 2. (Read 606 times)

Claramente, algunas personas están usando AI para escribir posts en Bitcointalk, alguno de manera totalmente descarada y torpe. No sé si la torpeza es innata, o bien es un troll, pero la cuenta omega123890 se ha dedicado a crear posts que son off-topic y posteados en secuencia en el mismo hilos con escasos minutos de diferencia (reporté cuatro de ellos, por no reportarlos todos). La cuenta llegó a ser tan torpe que copió y pegó el output de la IA donde indicaba admitía ser un contenido generado por una IA.

La cuenta ya está nukeada como era de esperar:
https://bitcointalk.org/modlog.php

Desconozco si esto tendrá un efecto lateral en los hábitos de meritar de la gente. Yo por lo menos no tengo demasiadas ganas de, al ver un post determinado, calibrar primero si es un plagio de algo, y luego si está generado potencialmente por IA. Puede que subconscientemente, a las cuentas desconocidas empecemos a buscarle rasgos humanos antes de meritarlas …

Nota: Si alguien quiere ver el contenido de los posts de la cuenta nukeada, lo puede hacer a través de alguna de las herramientas de archivo creadas por miembros del foro.

+1
Lo he mencionado por ahí, en algún momento, el tema ha sido llevado a un punto de viral, que no significa que estemos en algún punto que merezca todo el alboroto que se le ha dado, y en especial ChatGPT.

Ha sido una campaña brutal de comercialización para "Chat GPT". Han habido avances significativos de un alcance sin igual, y han pasado por debajo de la mesa.

Lo significativos en muchos casos es que el ingenio humano ha estado siempre vigente.

Nombraste a AE y cabe preguntarse en cuanto tiempo tendremos soluciones parecidas a las que logró AE, y que todavía más de 100 años siguen aportando.

No dudó que sin duda tendremos AI en el futuro que permitirá inimaginables aplicaciones.

Hay muchas preguntas que no tienen respuesta todavía y que seguramente llegarán producto del ingenio humano, pero seguramente la AI será su heredera.

Pero como bien dices, Falta mucho.

Lo que no he visto, por ahora, es ninguna cuenta sospechosa de usar la herramienta que haya sido meritada en Bitcointalk, o por lo menos con algo que no sea un mérito suelto (que tampoco). Creo que, de suceder este hecho con algo de peso específico, es posible que viésemos un poco más de ruido respecto del uso de este tipo de herramientas.

En todo caso, lo más probable es que sea un volumen notable a la vista de posts "tipo IA" los que muevan a la acción. Quizás un problema adicional para abordar el asunto sea que no generan un spam simple de tipificar como tal, y que su contenido realmente puede ser mejor que el generado por la media de las cuentas del foro ...

Si, efectivamente, pero quise hacer el ejemplo de un simlpe "hola" porque sé que todo lo referente a la IA está en una etapa como si tuviera un bebé que aún no camina, todo está en un proceso de etapa Beta, eso es análogo a como cuando salió la Mark I, luego salieron más versiones, estoy seguro que en el período de 5-10 años ese "hi" que puse de ejemplo en un detector de IA dirá 50% humano y 50%máquina o IA, pero claro a partir de los 50 tokens o  más se puede determinar, aunque hay personas que tienen una gran redacción, hacen los conectores de manera correcta, usan los verbos, adjetivos y hablan de manera técnica y el detector puede dar el veredicto que es una IA, entonces como determinar? porque ajá y cómo? si eso lo escribió un humano, ahí es donde está el meollo de esto, aunque claro hay personas que usan la IA y es súper evidente que no son ellos.

Este es un tema que se ha dado desde el lanzamiento de ChatGPT, y las personas tenían este tipo de conocimiento dormido, en algunos países han prohibido en las escuelas su uso, de hecho todos sabemos que la IA sustituirá muchos trabajos, así como la automatización industrial los sustituyo de mano obrera humana a máquina , aquí el desarrollo sustituirá a muchos, una de las cosas que será sustituible desde ya serían los maestros, hace poco vi en un aviso de facebook que decían que una IA que ayudaba a los niños a aprender Inglés más rápido, el tema de los proyectos, una IA maneja los mejores códigos en todos los lenguajes de programación, lo que con el tiempo los dueños de empresas le pedirá a una IA que haga un programa para arreglar el proceso X, y adiós a los Ing Informáticos, es que la idea de la IA es muy simple, nada más con un ejemplo simple: La IA puedes ponerla a aprender boxeo, y al cabo de 20 minutos ha dado más de 1500 repeticiones y eso lo hará más perfecto y veterano, si se deja 24 horas aprendiendo ya boxeará como si hubiece practicado boxeo por 20 años, eso es algo que asusta.

Todo esto apunta que al menos con los detectores no es algo fiable, de todas maneras el amigo que les comenté le pediré que se haga una cuenta aquí en Bitcointalk, porque él trabaja con IA, es un Doctor en ello, él fué quien me dijo que falta mucho, sería interesante que pudiera dar su opinión después de haber leído todo el hilo, sin embargo no sólo él, en mismo OpenIA envié hace más de 15 días un correo donde no he recibido ningún tipo de respuesta, ya que los detectores como dije para mi no son fiables, ahora bien, lo que pienso es que una manera que considero correcta es buscar al menos unos 10 detectores de IA, Otros de Antiplagio en google, porque en google hay IA en todos lados y sus IA es también un poco avanzada y someterlos a esos detectores, si en esos 10 detectores sale que es IA, no hay de otra, es IA, pero cuando al menos en 1 detector sale texto redactado por humano se debe invalidar todo, tal vez por eso la postura de los managers del foro.

Debido a la falta de claridad  lo de la IA se puede tornar como un tema muy ambiguo, se imaginan redactar un artículo propio y que luego pase por un detector de IA y salga que es 100% IA? Ha pasado, aqui en el foro este tema es bastante amplio, me he dado cuenta que en países de habla Inglesa donde obviamente la información más reciente está manejada por ellos, ya que la mejor información sale en inglés y no veo que esté tan avanzada, el hecho que en el foro se trate un tema con bastante profundidad he visto que no se llega a una conclusión absoluta.(No hay libros de IA actualizados, los que hay son con códigos).

Cada uno de las opiniones de aquí de todos es una retroalimentación excelente, cada vez se aprende más, y en lo personal me quito el sombrero de como DdmrDdmr sabe con absoluta pericia del tema, casi todos los temas los sabe , es increíble y orgullo que sea de nuestra sección hispana, por supuesto todos aqui en nuestra sección tienen un alto coeficiente intelectual, por eso veo que estos temas son de gran retroalimentación.

Me gusta saber los puntos vista de personas de todos los países del mundo, USA, Italia, Portugal, España, Colombia, Brasil,mi Venuezuela y todos los países que quieran unirse, aquí es sólo un abre-boca de que los que manejan la información tienen el poder, lo mejor es que la información siempre será libre y aquellos que la ocultan es cuestión de tiempo para que se descubra.

Sólo imaginen, cuando salga la computadora cuántica +IA, cómo será el impacto? qué nuevas cosas traerá para los creadores de contenido escrito? comenzará como lo estamos ahora, aunque ya la pc cuántica está, el problema es cuándo la lanzarán al mundo.

Ahora un aspecto muy interesante de la ChatGPT, no tiene información actualizada sino hasta el año 2021, aparte no está autorizada para hacer predicciones, estoy seguro que cuando permitan un modo profesional pago, lo usarán para el trading y para ganar las loterías, los cálculos que hace pueden hacer que la brecha ganadora sea mucho más precisa, más aún, todos sabemos cuando vimos probablidad y estadística que aquel ser que quizo demostrar la existencia de Dios llegó al teorema de Bayes, será que una IA llegará a la fórmula famosa a la que llegó Bayes y pasará de allí? o para los más curiosos sobre los viajes en el tiempo, determinar que el tiempo y el espacio son los mismo? Y así por fin dar respuesta a todas las incógnitas que han sido las mayores preguntas que todos se han hecho? desde Einstein hasta ahora con Michio Kaku que es uno de los científicos físicos más influyentes, a lo mejor estoy haciendo especulaciones demasiado a futuro, pero será una locura cuando se tengan todas esas respuestas, por eso digo aún falta mucho.

En GPT2 ya avisa que los resultados empiezan a ser fiables a partir de los 50 tokens (sílabas?). Por eso un simple "hi" o un "hola" no es una muestra representativa (si se me permite aquí la expresión, aunque no hablemos de demografía o estadística) y por lo tanto no me parece irresponsable. Habría que escribir un pequeño párrafo para que la detección sea fiable, según la propia fuente.

El problema es que los posts de 150 caracteres no sé si llegarían a los 50 tokens, por lo que en ocasiones será muy difícil de demostrar. Exceptuando el caso de las Leather wallets ahí pocos tokens hacen falta para adivinar que tal falta de sentido común no es humana.

A mí lo que me sorprendió no es ya que no hubiese un pronunciamiento en su contra por parte de la administración de Bitcointalk, sino que hay casi una alfombra de bienvenida en las palabras anteriores, algo que me parece invitar a su uso sin esfuerzo en contraposición a los que tienen que usar un par de neuronas (la principal y la de backup) para generar contenido.

En todo caso, veremos cómo evoluciona la situación. En la actualidad, por lo menos con los que me cruzo, apenas me topo con casos sospechosos, y de detectarlos (sospechar más bien), como tampoco está prohibido, no veo que tenga que tener nada presente más que no meritarlos.

Venía yo pensando que no parecen theymos y los managers haber tomado la perspectiva del plagio para usar Chat GPT, recordemos esta cita en el hilo que abrí:


Este comentario tuvo muchos méritos, entre ellos uno de theymos, con lo cual parece estar de acuerdo con que solo van a mirar si lo que se publica está de acorde a las reglas, y , que hayan sido los managers de las campañas los que estén tomando medidas, como 777 así parece indicarlo. Hay varios miembros del foro famosos que han declarado haberlo usado como tú y NotATether, entonces, no veo tanto peligro como comentan algunos usuarios en ese hilo que enlazaste.

La cuenta alternativa es la mía, luego lo reflejaré en un tag neutral, y quizá la continúe pero por si acaso supongo que sin usar la IA.

Hola, me gusta este tema.
Creo que además del detector también debe estar la parte humana, ya que puede haber muchos falsos positivos, por lo que el detector debe usarse como una guía y no como una verdad absoluta.

El tema de las IA que generan contenido impacta a cualquier profesión que tenga como base la escritura, por lo que siempre se debe investigar, ya que es injusto para quienes realmente estudian el tema.

Lo siento por el mal español, pero no es mi idioma nativo.

Estaba respondiendo y veo que has borrado el post y creado otro tras una (razonable) reflexión "giñecológica".

Yo ya me he aburrido un tanto de postear con la mía. Como indicaba, mi intención era ver qué output generaba y qué sucedía si posteaba sin cambiar una coma (pero sí seleccionando la respuesta en múltiples ocasiones si no era de mi agrado). En la práctica, la cuenta pasó totalmente desapercibida: Ni méritos, ni comentarios, ni menciones a la sospecha de que la cuenta usa IA. Probablemente si me prodigase a postear con mucha mayor frecuencia entraría en el radar de alguien, pero me aburre lo suyo, máximo cuando hay casos reales ya circulando.

La manera más inteligente de usar el contenido generado por ChatGPT es customizando el output. Afortunadamente, eso requiere un tanto de esfuerzo, por lo que ya eliminamos gran parte de los usuarios potenciales de esta variante de uso en el foro.

En lo relativo al plagio, para mí su uso lo es conceptualmente, en tanto en cuanto se copia y pega el contenido generado por la IA sin referenciar su origen. Claro que si se modifica el output, uno podría decir que es un ejercicio de copy/[spin]/paste, aunque depende del aporte personal que haya en el contenido resultante posteado. El problema es que técnicamente no se puede demostrar con certeza el origen, y actuar por parte de la moderación en base a una sospecha es algo delicado.

Otra cosa es que la IA, por un desliz, cometa plagio del clásico (del que puedes encontrar en otra fuente o post), o de una respuesta similar a la de otro usuario que lo use por aquí, lo pegues como un post con la alt, y vincules la alt a tu cuenta principal mediante algún comentario. Ahí sí podría ser problemático.

Nota1: Tiene su gracia volver a ver las restricciones de las cuentas Newbie cuando uno intenta hacer una búsqueda o intenta crear varios posts con cierta agilidad. Mira que da por saco.

Nota2: Como he narrado la historia aquí y su finalidad, sería bastante absurdo que supusiese algún problema a futuro. He visto casos de gente creando alts para ver cuánto podían spamear a modo de experimento declarado, y fue meritado y no castigado (que hubiese sido absurdo).

Había creado esta cuenta alternativa para probar el tema de AI pero al releer veo esto, que no se si se me pasó por alto en su momento. No es como para ir jugando, ¿no? Si te banean una cuenta alternativa por plagiarismo con la IA, también te banean la principal, y aunque no haya postura oficial del foro parece jugar con fuego.

¿Continuas usando tu cuenta alternativa con IA?

En este hilo se han ido apuntando en algunos posts enlaces a varias herramientas de detección. Cuando probé algunas de ellas, no me convencieron al darme tanto falsos positivos (con posts del foro de otras personas) como falsos negativos (como contenido que sé era generado por IA).

En general no obstante, las herramientas van a necesitar una muestra sensiblemente mayor que una palabra o una línea para arrojar un diagnóstico probabilístico. Creo que no deberían dictaminar si el input no tiene una longitud suficiente como sucede en los ejemplos de las capturas. De hecho ya avisan según veo que la fiabilidad empieza a partir de los 50 tokens, por lo que mejor se hubiese ahorrado el diagnóstico aun con el aviso.

Chat GPT quiere incluir una suerte de firma al texto que genera, de manera que pueda reconocer con mayor precisión sus propios textos. La firma es una especie de función matemática tipo que cumplirían sus outputs (ver los detalles aquí). En todo caso, es sólo su propuesta, que no está implementada, y donde cada solución IA tirará por su camino sin ir todos a una solución de detección común.

Una cosa por eso es un texto publicado una vez en donde sea, y otra es una secuencia de posts publicados en Bitcointalk, donde a la postre, salvo mucha conciencia en su uso, cantará a las mil leguas en cuanto la persona cree contenido de modus propio en lugar de mediante IA. El cambio de tono, formalidad, puntuación, gramática y demás denota una alerta de un probable uso de contenido IA vs contenido IN (inteligencia natural).

En lo relativo a su detección, al fin y al cabo, por ahora, siempre vamos a estar a lo sumo en el terreno de la sospecha elevada, y me imagino que eso será el criterio que usarán los gestores de campaña que se enfrenten a ello y lo prohíban en sus normas. El foro por ahora pasa del tema en esencia, y mientras el contenido no infrinja ninguna norma, no parece querer actuar en base a sospechas no taxativas.

Esto de IA es algo que está muy de moda, yo conocí la IA desde la U cuando me pusieron un proyecto qeu tenía que aprender a programar, y al verdad era bastante complicado aparte que aparte ese momento tenía que programar en ensamblador los micro 16F84 lo cual era una programación bastante ruda, para ese momento lo que se me ocurrió fué usar un Arduino para poder simularlo, lo que si sé se que se estaba desarrollando mucho para ese momento, ahora con todo esto se habla mucho de IA.

Tengo un amigo que es Dr. en IA , le hice muchas preguntas acerca de los detectores, y yo he probado esos detectores y la verdad me parecen malos, él me dice que los detectores son mu "chimbos", porque como determinan si en realidad lo es? aún están en desarrollo, entonces yo lo que pienso según mi experiencia allí es, que si una persona usa IA para cualquier cosa, se debe poner en muchos detectores y si en todos aparece que es más del 95% IA es porque en realidad lo está usando, él me dijo que los conectores, que los sinónimos a veces esas cosas pueden tomarla como IA.

Los detectores IA que se hablan mucho es de GPT-2, GPT-3 según son y están en etapa demo, aparte que presentan muchos problemas en especial aquel contenido que se hace en Inglés, y me parece haber leído en alguna parte que ellos tienen bastante falla allí, entonces, en el momento de hacer un tipo de acusación de una persona que use IA no es totalmente fiable así esté en sospecha, bajo mi criterio profesional sería algo irresponsable hacerlo, de hecho en estos detectores hice una pruebla simple:






Source: https://openai-openai-detector.hf.space/


Confiar en una herramienta de detección que cuando se habla en Inglés un simple "hi", ahí interpreto que el único que puede decir Hi es una IA.

Y cuando se coloca en Español sólo un 4% que sea humano.

Como confiar en algo así? entonces, es difícil poder determinar si la detección de IA en realidad es fiable.

Nada más con  una simle búsqueda obtuve esta dirección: https://copyleaks.com/es/features/ai-content-detector/



y su prueba me pareció algo más responsable, a pesar que incluye todo, pero el Open Source de OpenIA tiene muchas fallas.

Qué opinan? así como este detector he visto que hay otros detectores que me parecen mucho mejor que el de OpenIA...


Lo que pienso es que aún falta mucho desarrollo para la IA, algunas tienen y pueden predecir, no lo niego, es una herramienta muy buena, si le pidees que te haga la Integral indefinida de la Raíz de la Tangente de x te la hace en segundos y explicándola, cuando sabemos que esa es una integral bastante complicada en el momento que muchos la vimos porque pasa casi por todos los métodos de integración, es una ventaja en ese sentido cuando se usa ChatGPT, sin embargo para países como Venezuela no es posible obtenerla porque es un país prohibido.

Veo que hay bastante confusión acerca de la postura formal del foro entorno al uso de herramientas de IA para redactar el contenido de posts en el foro. En este hilo por ejemplo, que empezó en Beginner & Help y acabó en Meta, hay cuanto menos cinco personas que avisan en contra de usar dichas herramientas, so pena de ser baneado del foro.

La realidad es que, por ahora, no hay nada oficialmente en contra, en tanto en cuanto el post no rompa alguna de las reglas ya existentes; esencialmente que sea un contenido de baja calidad o, algo más improbable, plagio de alguna fuente (en el fondo lo es de la propia herramienta, pero a ver quién lo demuestra como tal).

Naaaaaa jajaja pero que es eso?? , aca es donde me entra la pregunta realmente al que esta detras de la cuenta le importa poco y nada aunque sea leer el texto generado, ya es hilarante.

El problema como ya he dicho tambien son usuarios basura o spammers que no son  de rango bajo que interactuan con estas cuentas.

Uno ya duda quien tiene más/menos inteligencia, si la IA o la persona que acepta lo que en apariencia es el resultado de algún sistema de IA para responder a "Cómo actualizo mi cartera?": ver la respuesta plasmada en este post (pista: depende de si es de cuero o sintética ...).

El post original ya está borrado, pero el perfil en cuestión diría que no es el único post creado con ayuda de IA, tal y como parece verse en este post. Algún otro claramente no parece suyo, pero este último me parece más una traducción que algo generado por AI.

Yo coincido plenamente con Ddmr, para mi donde mas se nota la cuestion de la IA es que es demasiado politica, o vamos a decir demasiado politicamente correcta.

Es demasiado amable en todas las contestaciones y es condescendiente recurrentemente.

Sin contar que siempre anda sin profundidad por mas que pueda parecer en algunos casos que si la tiene.

En esencia, concuerdo con lo que indicas en tus apreciaciones. Además de la corrección gramatical y sintáctica de las frases, mi sensación es que el contenido es siempre un tono neutral y alejado del personalismo, con tendencia a enrollarse y resaltar múltiples puntos en sus argumentos.
No transmite nunca ser cercano ni experiencia personal, y no son pocas veces que recurre a ciertas construcciones tipo que ahora mismo no tengo interiorizadas, pero que se ven cuando juegas un rato con la herramienta.

Ahora bien, uno puede luego personalizarlo un tanto, pidiéndole que use jerga, tono más majestuoso, pretender ser un crío respondiendo, e incluso ser poco dominador del idioma como por ejemplo se observa en esta respuesta al preguntarle si uno debe invertir en bitcoin, pero que responda sin dominar el idioma:

No me diréis que no está logrado, y que no se parece a una parte de lo que vemos a diario …

Por fortuna, el tono es algo que se le ha de pedir, y requiere un pequeño esfuerzo adicional. Espera a que se pueda personalizar "una personalidad" parametrizada, y entonces la hablemos liado un tanto más.


Nota: Por cierto, que hay gente que ha logrado que el producto se salte sus reglas de corrección y difame a saco, aunque los casos que he probado ya han sido parcheados:
https://futurism.com/tags/chatgpt

Efectivamente, en el caso que comentabas más arriba no hace falta ser analista para darse cuenta de que algo no cuadra. Eso sí, hay que tener buena memoria, entrever el patrón y confirmarlo con el histórico.

Demostrarlo es un paso más allá y más complicado: no vaya a ser que en ocasiones a Sandra le guste postear borracha y desde el móvil, mientras que otras prefiera hacerlo metida de Adderall y desde el ordenador.

Hablando de patrones, por lo que empiezo a ver, hay varios puntos que caracterizan los textos escritos por Chat GPT: apenas tienen faltas de ortografía, aunque se podrían incluir a mano a posteriori (aunque es cierto que en ocasiones se debe comer los puntos finales); el vocabulario es rico pero abusa de sinónimos con calzador y cultismos poco comunes y que no vienen al caso teniendo en cuenta el registro adecuado en función del contexto; son textos muy descriptivos y objetivos que en el fondo no aportan mucho, más allá de información convencional (vale, eso a veces lo hacemos todos, pecadores); las oraciones y los párrafos tienen una estructura y longitud de manual,...

Por contra, también aprecio ausencia de interjecciones, opiniones subjetivas, manifestaciones del ego o significados velados, amén de otros dejes, licencias y manías personales (mi abuso de los paréntesis cuando sería más correcto simplemente crear una nueva frase, el abuso de términos por parte de DdmrDdmr como "referenciado" o "loguinear", la forma peculiar y característica de famososMuertos de escribir que siempre te hace releer sus posts, etc.).

Supongo que el algoritmo de Google le daría a los textos de Chat GPT un 10 y los posicionaría en lo más alto de sus resultados de búsquedas, pero a diferencia de lo que nos sucede con los miembros del foro con quienes interactuamos, no parece posible intuir una personalidad diferenciadora tras su lectura.

¿Qué otros patrones habéis detectado? ¿estáis de acuerdo con los que comento?

Es interesante el cambio introducido en las reglas de una de las campañas más conocidas en el foro, a fin de intentar evitar que gente recurra a la IA para generar el contenido de algunos de sus posts. No sé si es en revisión, o si realmente han pillado a algún caso en concreto, pero es de las dos vertientes más nocivas que tiene su uso:

- Empleo en campañas para minimizar el esfuerzo por parte del posteador.

- Generación de contenido en el foro que no llega a considerarse técnicamente spam en la mayor parte de los casos al presentar un contenido relativamente neutro, bien redactado, y con tintes de cierta validez (a la par que recuerda un refrito de cosas ya posteadas en el foro).

No obstante, si un post copiado/pegado + un enlace se suele considerar contenido de baja calidad, esto también lo debería ser en esencia. Ambos casos representan el uso de cuentas para generar contenido sin esfuerzo personal asociado.

El problema es demostrar que un post ha sido generado por IA (o más complicado: IA + spinning de palabras). Por ahora, lo más parecido va a ser una fuerte sospecha, bien por el continente y contenido en sí, bien por el contraste en el histórico, que es donde es más sencillo de intuir por mero contraste.

Esto venía a hilo del feedback neutral dejado a una cuenta que parece usar masivamente AI, y el que lo deja conoce muy bien el sistema de confianza:

LoyceV's Beginners guide to correct use of the Trust system

Había por ahí una cita de theymos diciendo algo así como que la guía esa entiende bastante bien el sistema, en todo caso no me quisiera enrocar a discutir esto, pero he visto usos bastante peores del feedback neutral, como poner un feedback claramente negativo en cuanto a trade risk pero neutral.