Discord se ha asociado con OpenAI para integrar ChatGPT en toda la aplicación. Hay un chatbot, obviamente, pero la compañía también planea utilizar el aprendizaje automático de diferentes maneras más novedosas y potencialmente útiles. A partir de la semana que viene, la empresa empezará a poner en marcha un experimento público que aumentará las capacidades conversacionales de Clyde, el bot integrado que Discord emplea para notificar errores a los usuarios y responder a sus comandos de barra.
Aparentemente, Discord prevé que los usuarios recurran a Clyde para obtener información que antes habrían obtenido de Google. Por ejemplo, el usuario puede preguntar al chatbot la hora local del lugar donde vive alguien de su servidor para decidir si sería apropiado enviarle un mensaje. Puede llamar a Clyde en cualquier momento, incluso en conversaciones privadas entre sus amigos, escribiendo @Clyde.
Entretanto, los administradores también pueden desactivar el chatbot si no quieren utilizar la función en su servidor. La primera vez que activan a Clyde, Discord mostrará un mensaje de aceptación. Para los usuarios que les interesa la privacidad, Anjney Midha, responsable del ecosistema de la plataforma Discord, declaró que la empresa no comparte los datos de los usuarios con OpenAI para ayudar a la startup a entrenar sus modelos de aprendizaje automático.
Aparte de Clyde, Discord está utilizando la tecnología de OpenAI para mejorar “AutoMod”, la herramienta de moderación automática de contenidos que la compañía introdujo el pasado mes de junio. Los administradores y moderadores de servidores pueden configurar “AutoMod” para detectar y bloquear automáticamente mensajes inapropiados antes de que se publiquen, creando una lista de palabras y frases que no quieren ver. En los nueve meses transcurridos desde que se puso en marcha “AutoMod”, Discord afirma que la función ha bloqueado más de 45 millones de mensajes no deseados.
En el futuro, la herramienta utilizará grandes modelos lingüísticos para interpretar y aplicar las reglas del servidor. En la práctica, “AutoMod” debería ser capaz de detectar y actuar contra quienes intenten ir en contra de las normas y expectativas de la comunidad. En una demostración, Discord mostró a “AutoMod” actuando contra alguien que intentaba saltarse una norma del servidor contra la autopromoción escribiendo su mensaje en otro idioma. En ese caso, “AutoMod” no estaba preprogramado para buscar una palabra o frase concreta, pero pudo utilizar el contexto para deducir que se trataba de una posible infracción.
Según Midha, Discord lleva tiempo explorando cómo el aprendizaje automático puede mejorar la seguridad de los usuarios. Si bien no tenía datos tempranos para compartir sobre las nuevas capacidades de “AutoMod”, dijo que los primeros resultados son "súper prometedores" y agregó que "nunca había visto algo así." El nuevo y mejorado “AutoMod” se está desplegando en determinados servidores a partir de hoy.
Puede parecer que Discord es una empresa tecnológica más en la moda de la IA generativa, pero Midha quiere que los usuarios sepan que el aprendizaje automático forma parte de la identidad de Discord desde hace tiempo. Cada mes, más de 30 millones de personas utilizan aplicaciones de IA a través de la plataforma y casi 3 millones de servidores incluyen al menos una experiencia de IA.