¿Puede Midjourney hacer NSFW?

La generación de arte de IA ha sido la comidilla de la ciudad gracias a modelos como DALL-E, Stable Diffusion y Midjourney. Si bien estas herramientas pueden ser divertidas de usar, una gran preocupación que tienen las personas es cómo también pueden usarse para crear contenido dañino o NSFW. Para los desconocidos, el contenido NSFW generalmente se refiere a material que contiene contenido sexual o gráfico que puede no ser adecuado para ciertas audiencias o entornos de trabajo.

En esta publicación, exploraremos si una de estas herramientas, Midjourney, se puede usar para crear y compartir contenido NSFW y cuáles son las políticas de la plataforma con respecto a este tipo de contenido.

¿Midjourney permite contenido NSFW?

Las Pautas de la comunidad de Midjourney advierten que las creaciones realizadas en la plataforma deben ser apropiadas para menores de 13 años para garantizar que su herramienta sea accesible para un grupo más amplio de usuarios. Estas pautas advierten específicamente a los usuarios:

• Evitar desnudos, órganos sexuales, imaginería sexual, fetiches o cualquier otro tema relacionado.
• Para evitar contenido visualmente perturbador que se considere gore. Son imágenes de partes separadas del cuerpo humano o animal, cuerpos deformes, miembros amputados, canibalismo, sangre, violencia, pestilencia, etc.
• Para evitar crear imágenes que puedan considerarse ofensivas o abusivas, incluido contenido que pueda verse como racista, homofóbico, perturbador o despectivo para una comunidad. Esto también incluiría imágenes ofensivas de celebridades desnudas, figuras públicas o niños.

Estas restricciones no solo se aplican a los servidores propios de Midjourney, sino también a los servidores privados que usan Midjourney Bot. No puede crear estas imágenes usando el modo privado o cuando se comunica a través de un mensaje directo con el bot de IA.

Las 6 mejores herramientas de detección de ChatGPT gratuitas y de pago (2023)

¿Cómo bloquea Midjourney el contenido NSFW?

Para evitar que los usuarios creen contenido NSFW, Midjourney prohíbe el uso de ciertos lenguajes y comportamientos en su plataforma, prohibiendo palabras y frases que podrían usarse para crear imágenes dañinas u ofensivas. El lenguaje prohibido a veces puede incluir ciertas palabras que pueden no ser populares entre todos, pero que pueden usarse para generar imágenes que, en un sentido más amplio, pueden considerarse inapropiadas, ofensivas o dañinas.

Por ejemplo, Midjourney evita las entradas de texto que contienen el emoji de melocotón, que en sí mismo no es ofensivo pero podría usarse junto con otras palabras clave que podrían generar contenido NSFW. Esta medida se tomó porque es posible que el Midjourney Bot no entienda ciertos idiomas de la misma manera que lo haría un humano.

Cuando ingresa una palabra o frase prohibida por Midjourney, verá un aviso de "Prompt Banned" en Discord con un mensaje que destaca qué palabra o frase ha sido prohibida en Midjourney. Si alguien elude este aviso o viola las pautas de la comunidad, recibirá una advertencia del moderador de la comunidad. Para infracciones repetidas, Midjourney implementaría un tiempo de espera temporal para acceder a su chatbot o bloquearía permanentemente el uso de su servicio.

¿Puedes crear contenido NSFW en Midjourney?

Si bien Midjourney tiene restricciones para evitar la visualización de contenido NSFW, algunas indicaciones pueden generar involuntariamente imágenes que no son PG-13. Esto puede suceder cuando las indicaciones de entrada contienen palabras que aún no han sido prohibidas, pero que la IA podría interpretar para crear imágenes que pueden no ser apropiadas.

¿Se pueden utilizar comercialmente imágenes de mitad de viaje? Licencia de medio viaje explicada

Dado que el aprendizaje automático no es tan simple como los humanos y carece de conocimiento del mundo real, las personas pueden encontrar muchas formas diferentes de generar contenido NSFW utilizando diferentes palabras clave. Si cree que una imagen que ha creado es inapropiada para alojarla en Midjourney, siempre puede autocontrolarla informándola usted mismo. Esto se puede hacer usando la reacción emoji ❌ en una imagen generada o haciendo clic derecho en el contenido y yendo a aplicaciones > Cancelar/Reportar trabajo.

Cuando informe una creación a Midjourney, se enviará al moderador de la comunidad para su revisión. Esto ayudará a Midjourney a agregar ciertas palabras de su aviso a la lista de palabras prohibidas y evitará que otros se aprovechen de su bot de IA para generar contenido NSFW. Si Midjourney descubre que está utilizando repetidamente avisos que violan sus pautas, es posible que se le otorgue un límite de tiempo para usar el bot o que se le bloquee el uso del servicio por completo.

Eso es todo lo que necesita saber sobre si Midjourney puede crear contenido NSFW.