Un nuevo logro para los desarrolladores de inteligencia artificial llega de la mano de Anthropic, en su versión más reciente de Claude. La cualidad que distingue a este modelo de otras versiones, es que puede terminar conversaciones que pueden estar tornándose incómodas. De manera que, si Claude Opus 4y 4.1 llevan a cabo la detección de contenido dañino, puede llevar a cabo la reconducción de la conversación. El proceso de finalización dela conversación solo se llevará a cabo tras varios intentos de dirigir dicha interacción hacia un terreno mucho más sano y productivo.
Según el informe de la empresa respecto a la más reciente versión de Claude, se estima que se trata de la primera vez que un modelo IA tiene la capacidad de realizar esta acción. Anthropic se posiciona como un referente en este ámbito, lo que cambia por completo la visión que hasta el momento se tenía de las IA. Así pues, esta IA de los modelos Opus 4 y 4.1 será capaz de detectar patrones dañinos que considere persistentes.
Siendo esta la primera vez que una IA comercial incorpora una función como esta, no se trata de entrar en pánico respecto a las interacciones. Parte de las afirmaciones de Anthropic, están relacionadas con que el tipo de situaciones están vinculadas a temas realmente densos y problemáticos. Para tener un contexto más claro respecto a lo que podemos hacer o no, básicamente, se trata de tres temas cruciales que puede desencadenare cierre de una conversación.
En primer lugar, tenemos las conversaciones que pueden involucrar un nivel alto de violencia. Cualquier interacción que el modelo identifique como abusivo, podría dar por terminada la conversación si los intentos de redireccionar la conversación son fallidos. Otro punto que evidentemente no se tolera en este contexto es el posible abuso de menores. Por último, pero no menos importante, se han establecidos serias restricciones ante la promoción de terrorismo.
Una vez culminada la conversación, el usuario no podrá enviar mensajes en este chat. Sin embargo, no se establecen restricciones para el uso de nuevas conversaciones y no afectara a otros chats que estén abiertos.