Malas prácticas con Chat GPT.

Malas prácticas con Chat GPT y usarlas en el lado oscuro de la inteligencia artificial.

Usar malas prácticas con Chat Gpt también puede ser bastante peligroso. El generador de texto de Open AI puede hacer uso malintencionado con Chat GPT a la hora de crear una escritura precisa o interesante. Pero puede crear texto y códigos de programación en muy poco tiempo.

Es solo cuestión de tiempo. Cualquier cosa que pueda crear contenido de la nada probablemente puede crear algo peligroso y puedes hacer un uso malintencionado con Chat GPT.

Quizás, como era de esperar, las personas ya han encontrado usos para la herramienta de inteligencia artificial (IA) poco éticos.

Hemos recopilado algunos ciberriesgos de usar Chat GPT que la gente ha encontrado.

Detectados los primeros usos de ChatGPT para recrear malware.

Al menos usos cuestionables.

Ten en cuenta que todo esto es antes de que la aplicación se generalice por completo mientras todavía está en sus inicios.

Para obtener Chat GPT gratis tiene los días contados. El precio Plus será en españa de 20 euros.

Sólo necesitas tener una cuenta en OpenAI donde podrás descargártelo.

 

VERSIÓN ACTUAL DE CHAT GPT

El 14 de marzo del 2023 OpenAI liberó, ante una gran expectación online a nivel mundial, la versión Chat GPT-4. 

Multimodal de Chat GPT-4

Chat GPT-4 ahora admite imágenes.

No basadas en el atributo Alt del SEO, lo cual daba a equívocos a la hora de usarla y presentar imágenes, ofreciendo imágenes inventadas y fantasiosas.

Ejemplo para usar imágenes con Chat GPT-4

Con la nueva versión, puedes hacer una foto de los ingredientes que tengas disponibles.

La Inteligencia Artificial la interpretará y te ofrecerá una serie de recetas y elaboraciones posibles.

Chat GPT y la encriptación de mensajes

Chat GPT no puede encriptar mensajes de extremo a extremo.

Puede ser utilizado como una herramienta en combinación con otras tecnologías para lograr la encriptación.

Es importante recordar que la seguridad de los mensajes encriptados depende tanto del cifrado como de cómo se manejan las claves de cifrado.

Como modelo de lenguaje basado en la inteligencia artificial, Chat GPT tiene la capacidad de generar texto de manera autónoma y coherente en varios idiomas.

¿Qué implica el cifrado?

El cifrado es el proceso de convertir un mensaje en una forma que solo pueda ser leído por la persona o entidad autorizada para hacerlo.

El cifrado de extremo a extremo, que es el método preferido para garantizar la privacidad de los mensajes, asegura que los datos sólo sean accesibles para el remitente y el destinatario.

La capacidad de Chat GPT para encriptar mensajes

Chat GPT, como modelo de lenguaje, no tiene la capacidad de cifrar mensajes, de momento, de extremo a extremo por sí solo.

Sin embargo, puede ser utilizado como una herramienta para generar claves de cifrado o para ayudar en la creación de algoritmos de cifrado.

Chat GPT en combinación con otras tecnologías

En otras palabras, aunque Chat GPT no pueda encriptar mensajes por sí solo, puede ser utilizado en combinación con otras tecnologías para lograr la encriptación de extremo a extremo.

La importancia de proteger las claves de cifrado

Es importante destacar que la seguridad de los mensajes encriptados no depende únicamente del cifrado en sí, sino también de cómo se manejan las claves de cifrado.

Por lo tanto, es esencial asegurarse de que las claves de cifrado estén protegidas y solo sean accesibles para las personas autorizadas.

¿Quién es el dueño de Chat GPT?

Originalmente creada por los empresarios Elon Musk, Sam Altman y Greg Brockman dieron vida en 2015 a modelos de inteligencia artificial en Chat Gpt.

Actualmente prevalece como CEO y propietario de OpenAI  Sam Altman

Chat GPT ya está causando problemas

Usar Chat GPT para crear malware es una de las malas prácticas de la IA.

No porque el malware sea algo nuevo, sino porque Chat GPT puede hacerlo sin cesar.

Crear malware con inteligencia artificial

La IA no duerme ni se cansa. La revista Infosecurity escribió que: abre en una nueva ventana)

Los investigadores de seguridad cibernética pudieron crear un programa polimórfico elusivo y difícil de detectar.

Los ciberdelincuentes pueden usar la aplicación para crear código malware y luego usar la aplicación para crear variaciones y mutaciones del código, que sea difícil de detectar o detener.

En otras palabras, podemos mutar los resultados malware de la IA a nuestro antojo, haciéndola única cada vez. Clic para tuitear

Sin conocimientos de código de programación es capaz de obtener archivos de Microsoft Office, PDF o imágenes.

Estos archivos se liberan gratuitamente, lo que hace posible que caigan en manos de terceros de la ‘dark web’ para su uso malicioso.

Chat GPT también puede usarse para crear programas Java y Python sin conocimiento alguno de código.

Además, los investigadores notaron que cuando se usa la versión API de Chat GPT (a diferencia de la versión web), el sistema no parece utilizar su filtro de contenido.

Qué es una API

Una API es una manera para que diferentes programas se comuniquen entre sí.

Cuáles son los ciberriesgos de usar Chat GPT

Hacer trampa en la escuela con IA

Esto da menos miedo, pero es más predecible.

Una herramienta que puede hacer texto sobre cualquier cosa… literalmente perfecta para un niño que intenta hacer trampa con los deberes y tareas en la escuela.

Y casi a cualquier niño le encanta hacer trampa en la escuela.

Los profesores han sorprendido a los estudiantes en el acto mientras los centros educativos de todo el mundo comienzan a prohibir la aplicación. Clic para tuitear

Sin embargo, es posible que esta tendencia del uso de la inteligencia artificial se desacelere.

Es probable que la IA se convierta en otra herramienta que los niños pueden usar para aprender.

Malas prácticas con Chat GPT usando Phishing y estafas

Es difícil demostrar que esto ya haya sucedido, pero es lógico pensar que Chat GPT, o herramientas de escritura de IA similares, serían perfectas para el phishing.

Sus usos más comunes son para la venta de productos o bienes ilegales, como pueden ser:

• Medicamentos;
• Documentación falsa;
• Artículos relacionados con el fraude y herramientas para cometer piratería.

Los mensajes de phishing a menudo son fáciles de detectar debido a su lenguaje incompleto e inexacto, pero con Chat GPT todo eso se puede arreglar.

Los expertos han dicho que este es un caso de uso bastante común para la aplicación.

Para ver si esto era realmente plausible, le pidieron que arreglara el lenguaje inestable en un correo electrónico de estafa real.

No solo realizó una buena limpieza y corrección en segundos. En una de las conversaciones incluso comenzó a chantajear al lector ficticio sin que se lo pidieran.

Puedes engañar al software de búsqueda de empleo

Todo el mundo conoce la lucha para solicitar puestos de trabajo.

Es un proceso por lo general interminable, a menudo desmoralizador, que con mucha suerte termina con la recompensa de un trabajo.

Pero si está solicitando empleo, es posible que te estés perdiendo el trabajo de tus sueños por no usar una aplicación IA.

Según informes, una empresa de consultoría descubrió que las solicitudes escritas por ChatGPT vencieron al 80 por ciento de los humanos.

Chat GPT identificó todas las palabras clave que llamaban la atención de los reclutadores de trabajo. Clic para tuitear

Y lo más aterrador es que pasarán por los filtros establecidos en el software de recursos humanos.

Usarlo para spam en aplicaciones de citas

De acuerdo, tal vez spam no sea la palabra perfecta, pero la gente está usando Chat GPT para chatear en Tinder.

La gente está dejando que la #IA se haga cargo del trabajo #preliminar de una #conversación. Clic para tuitear

Si bien no es necesariamente grave, es bastante inquietante pensar que podrías estar chateando con una aplicación en lugar de con un socio potencial.

Las citas se han convertido en growth hacking.

Aquí hay otro ejemplo, esta vez un usuario de TikTok que solicita un tema de conversación con un culturista.

Chat GPT contestó:

¿Te importa si tomo asiento? Porque verte hacer esos movimientos de cadera hace que mis piernas se sientan un poco débiles.

Una vez más, el receptor del mensaje lo disfrutó y pronto dejó caer su Snapchat.

Riesgos de privacidad con Chat GPT

Si alguna vez has escrito una publicación de blog o una reseña de un producto, o has comentado un artículo, es muy probable que Chat GPT haya consumido tu información.

Chat GPT está respaldado por un gran modelo de lenguaje que requiere grandes cantidades de datos para funcionar y mejorar.

Cuantos más datos entrene el modelo, mejor será para detectar patrones, anticipar lo que vendrá a continuación y generar texto creíble.

OpenAI, la compañía detrás de ChatGPT, alimentó la herramienta con unos 300 mil millones de palabras extraídas sistemáticamente de Internet: libros, artículos, sitios web y publicaciones, incluida la información personal obtenida sin consentimiento.

Peligros de usar Chat GPT

Si bien el Chat GPT puede ser una herramienta útil para obtener respuestas rápidas a preguntas, también hay riesgos asociados con su uso.

A continuación, se explican algunos de los peligros a los que debes prestar atención al utilizar Chat GPT.

Limitaciones de la precisión y actualización de la información

Es importante tener en cuenta que la última actualización de Chat GPT fue en 2021.

Como resultado, el modelo puede no tener en cuenta información más reciente, lo que significa que las respuestas proporcionadas por el modelo de inteligencia artificial pueden no ser precisas.

Además, como cualquier modelo de inteligencia artificial, Chat GPT tiene limitaciones en su capacidad para comprender el contexto y el tono del lenguaje humano.

Esto puede dar lugar a respuestas inexactas o insensibles en situaciones en las que se espera una respuesta más empática o personalizada.

Riesgo de difundir información errónea o desinformación

Debido a que Chat GPT se entrena en grandes cantidades de datos, los cuales no siempre son precisos o veraces, es posible que las respuestas generadas por el modelo también sean inexactas o engañosas.

Esto significa que el modelo de IA puede ser utilizado para difundir información errónea o incluso propagar la desinformación.

Sesgo humano y perpetuación de prejuicios culturales

Como modelo entrenado por humanos, Chat GPT está sesgado por las opiniones y prejuicios de sus creadores y de los datos en los que se basa.

Chat GPT puede llevar a respuestas que reflejen y perpetúen prejuicios y estereotipos culturales. Clic para tuitear

Spotify lucha contra el fraude de la inteligencia artificial

El problema del fraude musical

La avalancha de canciones generadas por IA

En la plataforma de música Spotify, se han vuelto comunes las canciones creadas por inteligencia artificial (IA).

Estas canciones son generadas por ordenadores y no por músicos humanos.

Por ejemplo, imagina que un ordenador crea una canción pop usando una combinación de melodías y letras que suenan como si las hubiera creado una persona, pero en realidad todo fue hecho por el ordenador.

El fraude en la música

Recientemente, Spotify descubrió que muchas de estas canciones generadas por IA eran fraudulentas.

Esto significa que algunas personas las estaban utilizando para hacer trampas y engañar a los demás.

Por ejemplo, alguien podría hacer una canción falsa con la voz de un famoso cantante y luego tratar de hacer creer a todos que es una nueva canción real.

La lucha de Spotify contra el fraude

Eliminación de canciones fraudulentas

Spotify decidió tomar medidas para detener el fraude en su plataforma. Han eliminado miles de canciones generadas por IA que se consideraron fraudulentas.

Esto significa que ya no están disponibles para escuchar en Spotify. Es como si las canciones nunca hubieran existido.

Protegiendo los derechos de autor

Uno de los problemas más grandes con las canciones fraudulentas es que las personas intentan cobrar dinero por ellas sin tener los derechos de autor.

Los derechos de autor son como un permiso especial que se necesita para poder vender y ganar dinero con una canción.

Imagina que tienes un juguete muy popular y alguien trata de venderlo como si fuera suyo, sin permiso del creador original. Eso sería injusto, ¿verdad?

El impacto en los fans y la industria musical

La decepción de los fans

Para los fans de la música, descubrir que algunas canciones que les gustaban eran falsas puede ser muy decepcionante.

Imagina que tienes una canción que te encanta y descubres que nunca fue realmente cantada por tu artista favorito.

Sería como descubrir que tu comida favorita está hecha de ingredientes falsos y no es tan deliciosa como pensabas.

La importancia de la autenticidad

En la música, al igual que en otras áreas de la vida, es importante que las cosas sean auténticas y genuinas.

La autenticidad significa que algo es real y verdadero. Imagina que tienes una amiga que dice que sabe hacer trucos de magia, pero en realidad está usando trucos de mentira.

No sería tan emocionante ni especial, ¿verdad? Lo mismo ocurre con la música, es mejor escuchar canciones reales creadas por personas reales.

Protegiendo la música verdadera

Spotify está haciendo todo lo posible para luchar contra el fraude en la música y proteger a los artistas y a los fans.

Quieren asegurarse de que las canciones que escuchamos sean reales y no falsas.

Cómo podemos ayudar a eliminar las malas prácticas con CHAT GPT

Todos podemos contribuir a combatir el fraude musical. Aquí hay algunas cosas que podemos hacer:

Apoyar a los artistas: Escucha música de artistas reales y legítimos. Compra su música y asiste a sus conciertos para asegurarte de que están recibiendo el reconocimiento y el apoyo que se merecen.

Ser críticos: Antes de compartir una canción online o emocionarnos por un nuevo lanzamiento, verifiquemos su autenticidad. Busca información confiable sobre el artista y la canción para asegurarte de que es legítima.

Reportar irregularidades: Si encontramos una canción que sospechamos que es fraudulenta, podemos informar a la plataforma de streaming o a las autoridades correspondientes. Esto ayudará a mantener la integridad de la música online.

Conocer los derechos de autor: Es importante entender cómo funcionan los derechos de autor y respetarlos. No descarguemos ni compartamos música ilegalmente, ya que esto perjudica a los artistas y fomenta el fraude.

Fomentar la educación digital: A medida que la tecnología avanza, es esencial que todos aprendamos sobre los aspectos éticos y legales de la inteligencia artificial y su impacto en la música. Compartamos información y promovamos la conciencia sobre el fraude musical.

Conclusión

Juntos contra el fraude musical

El fraude en la música generada por inteligencia artificial es un problema que necesita ser abordado.

Spotify está tomando medidas para combatirlo y proteger la autenticidad de la música en su plataforma.

Como usuarios y amantes de la música, podemos contribuir siendo conscientes, apoyando a los artistas legítimos y denunciando cualquier actividad sospechosa.

Juntos, podemos preservar la integridad y la emoción de la música verdadera en la era de la inteligencia artificial.

Resumen de usar malas prácticas con Chat GPT

Si bien el Chat GPT puede ser una herramienta útil, es importante reconocer sus limitaciones y riesgos al utilizarlo.

Para evitar caer en los peligros mencionados anteriormente, siempre es recomendable verificar la información proporcionada con otras fuentes y tener en cuenta su fecha de actualización.

Fuentes:

Un equipo de reclutamiento recomienda sin saberlo Chat GPT para una entrevista de trabajo.

ChatGPT: todo lo que necesita saber sobre la herramienta GPT-3 de OpenAI.

Malas prácticas con Chat GPT. – MelSystems.es