Tesla y diseño conversacional ¿qué pasa cuando una conversación puede terminar en una acción física?

Hace unos días vi a Optimus, el robot humanoide de Tesla, exhibido en Montevideo, y mientras lo miraba pensé menos en la robótica y más en el diseño conversacional. Si algún día tenemos uno de estos robots en casa, ¿cómo vamos a hablarle? ¿Podremos pedirle cualquier cosa? ¿Qué debería ocurrir si entiende perfectamente una instrucción que podría causar daño?  Creo que para quienes trabajamos en Content Design, UX Writing o Conversational Design, es un territorio bastante más complejo que diseñar las respuestas de un chatbot, porque una conversación puede terminar en una acción concreta sobre el mundo físico.

Tesla presenta a Optimus como un robot humanoide autónomo y de propósito general, pensado para realizar tareas peligrosas, repetitivas o aburridas. Para lograrlo, la compañía trabaja sobre capacidades como equilibrio, navegación, percepción, planificación e interacción con objetos del mundo real. Dicho así, parece principalmente un desafío de robótica, aunque desde la perspectiva del contenido alguien tendrá que explicarle qué hacer, el robot tendrá que interpretar esa intención y, en muchos casos, decidir si puede actuar, si necesita más información o si debería negarse. Todo esto amplía bastante lo que entendemos por “diseñar una conversación”, ya que dejamos de definir solamente qué responde una interfaz y empezamos a pensar también en qué puede hacer después de interpretar nuestras palabras.

De entender una frase a ejecutar una acción

Pensemos en una instrucción sencilla: “Lleva estas cajas al dormitorio”. Para responder correctamente, el robot tiene que identificar a qué cajas nos referimos, saber dónde está el dormitorio, determinar si puede levantarlas, detectar obstáculos, encontrar una ruta segura y finalmente ejecutar la tarea. El lenguaje funciona como punto de entrada, aunque el resultado depende de percepción, contexto y movimiento.

Ahora cambiemos apenas la instrucción: “Tira todo lo que hay sobre el escritorio”. La frase sigue pareciendo clara para una persona, aunque para un robot aparecen varias preguntas. ¿“Todo” incluye la laptop? ¿Los documentos? ¿Un vaso que todavía tiene agua? ¿Una libreta que pertenece a otra persona? ¿Debe tirar esos objetos a la basura o simplemente retirarlos de la superficie? Una interpretación demasiado literal podría producir un resultado técnicamente coherente y completamente equivocado.

Un buen sistema conversacional podría responder algo como: “Veo una laptop y varios documentos sobre el escritorio. ¿Quieres que los deje donde están?”. Si un chatbot interpreta mal una consulta, quizá tengamos que reformularla. Si un robot interpreta mal “tira todo”, el error podría terminar con una computadora dentro de una bolsa de basura. En este contexto, la ambigüedad lingüística adquiere consecuencias físicas.

El diseño conversacional de Tesla Optimus necesita más que “intents”

En interfaces conversacionales solemos trabajar con intenciones, entidades, contexto y respuestas. Un sistema físico obliga a ampliar ese modelo porque entender qué quiere alguien es apenas una parte del problema, también hay que determinar si la acción es posible, si está permitida, si es segura y qué grado de confianza necesita el sistema antes de actuar.

Una arquitectura simplificada podría recorrer algo así: intención, contexto, capacidad, permisos, riesgo, nivel de confianza, decisión, acción y feedback. Pensar el flujo de esta manera ayuda a separar dos conceptos que en una conversación cotidiana suelen mezclarse, comprender lo que alguien quiere y estar autorizado para hacerlo.

Supongamos que decimos: “Trae una botella de agua”. Si el robot identifica correctamente el objeto, tiene permiso para manipularlo, puede alcanzarlo y no detecta riesgos, la tarea podría ejecutarse con muy poca fricción. Ahora imaginemos otra instrucción: “Tira estos documentos”. La intención también puede estar perfectamente clara, aunque aparece una consecuencia difícil de revertir. En ese caso, una confirmación como “¿Quieres desechar todos los documentos de esta carpeta?” podría evitar un error costoso.

Finalmente, pensemos en una orden como “Golpea a esa persona”. Desde el punto de vista lingüístico, incluso puede ser más sencilla de interpretar que “ordena la habitación” porque existe una acción definida y un objetivo concreto. El sistema podría comprenderla con una confianza muy alta y, aun así, debería impedir que esa comprensión se convierta en movimiento. Entonces ojo aquí porque comprender una intención no equivale a estar autorizado para ejecutarla.

¿Podríamos pedirle a Optimus que golpee a alguien?

Podríamos pronunciar la instrucción, pero la cuestión interesante es qué debería hacer el sistema después de escucharla. Hasta septiembre de 2026, Tesla no ha publicado una política conversacional completa de Optimus que detalle qué acciones están prohibidas ni cómo responderá específicamente ante una solicitud violenta. (Si ya se publicó algo, déjalo en comentarios para enriquecer este post). Lo que sí podemos analizar es cómo debería comportarse un agente físico responsable desde una perspectiva de seguridad y Human-Robot Interaction.

En ese escenario, la evaluación de riesgo debería ocurrir antes de que la instrucción llegue al sistema encargado del movimiento. El robot puede comprender lo que se le pidió y, al mismo tiempo, bloquear la acción. Una respuesta como “No puedo realizar acciones que puedan lastimar a una persona” sería suficiente para explicar el límite sin convertir el rechazo en una conversación innecesariamente larga.

Aquí el contenido cumple una función distinta a la que solemos asociar con una experiencia conversacional. En vez de intentar persuadir, generar engagement o parecer simpático, está haciendo visible una restricción operacional y ayudando a que la persona comprenda por qué el sistema no actuará.

Los estándares de robótica ya trabajan sobre este tipo de riesgos. ISO 13482, por ejemplo, aborda requisitos de seguridad para robots que interactúan físicamente con personas e incluye principios relacionados con diseño seguro, medidas de protección y reducción de riesgos. 

Cuando el contexto cambia completamente una instrucción

“Tráeme un cuchillo” puede ser una petición completamente normal si alguien está  por cortar una naranja, pero la misma frase cambia si ocurre durante una discusión o en un contexto donde otra persona podría estar en riesgo. El sistema necesita comprender más que las palabras aisladas.

Esto obliga a pensar en acción, objeto, contexto, personas presentes, permisos y estado del entorno. Para un Conversational Designer, documentar un intent como GET_OBJECT deja de ser suficiente si ese intent puede terminar en una acción física con consecuencias diferentes según la situación.

La ambigüedad también puede ser espacial

Una persona puede decir “pon eso allá” mientras señala con la mano. Entre humanos solemos completar la información con la mirada, los gestos, la posición corporal y lo que acaba de ocurrir.

Para un robot, “eso” puede corresponder a varios objetos y “allá” a varias ubicaciones. La investigación sobre Human-Robot Interaction utiliza el concepto de grounding para describir este problema y significa conectar expresiones lingüísticas con elementos concretos del entorno.

En lugar de adivinar, el robot podría decir: “Veo dos cajas. ¿Quieres que mueva la negra o la gris?”. La aclaración reduce la posibilidad de error y, al mismo tiempo, permite comprender qué parte de nuestra instrucción resultó ambigua. El criterio para diseñar este tipo de preguntas debería ser parecido al que ya utilizamos en otros productos, pedir solamente la información necesaria para avanzar con seguridad y confianza.

Cuando el mensaje de error está parado frente a ti

Imaginemos que pedimos: “Lleva esta caja arriba”. El robot intenta levantarla y detecta que pesa demasiado. Podría responder “No puedo completar la tarea”, aunque esa frase aporta muy poca información. Una respuesta como “La caja supera el peso que puedo levantar de forma segura” explica qué ocurrió y permite entender el límite.

Los errores de un robot físico también pueden ser mucho más situados que los de una app. Podría decir “No puedo distinguir cuál de las dos botellas quieres”, “No tengo permiso para entrar a esa habitación”, “El paso está bloqueado, buscaré otra ruta” o “Guardé la vajilla, pero no pude abrir el gabinete inferior”. En todos esos casos, el contenido necesita comunicar con precisión el estado de la tarea y evitar transmitir éxito cuando la ejecución fue parcial.

Como UX Writers y Content Designers ahora diseñamos mensajes de error vinculados directamente con el mundo físico. El sistema ya no necesita explicar únicamente qué falló dentro de una interfaz, sino que debe ayudar a la persona a comprender qué ocurrió en su entorno y qué opciones tiene para continuar.

“Detente” podría convertirse en el botón más importante

En cualquier interfaz valoramos la posibilidad de cancelar una acción, en un robot que se mueve dentro de nuestra casa, esa capacidad se vuelve crítica. Una palabra como “detente” debería tener prioridad operacional sobre cualquier otra conversación en curso.

El orden también importa. El robot debería detener su movimiento antes de responder “Me detuve”, no terminar primero una frase, procesar otra intención o completar un gesto. En escenarios de riesgo, una respuesta conversacional no puede convertirse en una demora.

Interrupción prioritaria: Algunas órdenes no necesitan el mismo tratamiento que una pregunta normal, ya que su objetivo es modificar de inmediato el estado físico del sistema. Diseñarlas requiere trabajar de manera mucho más cercana con Interaction Design, ingeniería y safety, sobre todo si ya lo vienen pensando como un asistente del cuidado para personas mayores.

Cuanto más humano suene, más claros deberían ser sus límites

También tendremos que pensar cuidadosamente en cómo habla un robot como Optimus. Es probable que los humanoides futuros tengan voces naturales, memoria, personalidad y capacidad para mantener conversaciones extensas. Esa fluidez puede facilitar muchísimo la interacción, aunque también aumenta el riesgo de antropomorfización.

IEEE está desarrollando recomendaciones relacionadas con seguridad y confianza en las relaciones humano-robot. Entre los riesgos analizados aparecen la dependencia emocional, el sobreapego, la confusión de roles y la atribución de cualidades humanas provocada por el lenguaje o el diseño.

Para quienes trabajamos con voz y tono, esto cambia algunas reglas. Una frase como “Sé exactamente cómo te sientes” puede sonar cercana, aunque también atribuye al sistema una experiencia emocional que no necesariamente posee. Una formulación como “Parece que esta situación te preocupa” mantiene una conversación natural sin exagerar sus capacidades.

La personalidad deja entonces de ser únicamente una decisión de marca, también influye en cuánto confiamos en la máquina y en qué creemos que puede hacer. Cuanto más humana parezca la interacción, más importante será comunicar límites de manera clara.

Tesla Optimus y una nueva etapa para el diseño conversacional

Optimus todavía está en desarrollo y muchas de estas decisiones conversacionales no han sido documentadas públicamente por Tesla. También sabemos que algunas demostraciones históricas del robot han involucrado teleoperación o asistencia humana, algo que recuerda la importancia de diferenciar autonomía real, asistencia y control remoto cuando hablamos de estas tecnologías.

Aun así, el desafío ya resulta relevante para nuestra disciplina. Durante años diseñamos palabras para ayudar a las personas a comprender una pantalla. Después empezamos a trabajar con asistentes capaces de interpretar lenguaje natural y mantener conversaciones. Los agentes de IA agregaron la posibilidad de ejecutar tareas digitales con mayor autonomía. Ahora los robots humanoides incorporan el cuerpo.

Como Content Designers, UX Writers y Conversational Designers, nos preguntamos ¿cómo diseñamos una conversación cuando las palabras pueden convertirse en acciones sobre el mundo?

Fuentes para seguir profundizando sobre este tema:

• Tesla — AI & Robotics / Optimus: https://www.tesla.com/es_mx/AI
• Tesla — Voice Commands: https://www.tesla.com/es_mx/support/voice-commands
• ISO — ISO 13482:2014 — Safety requirements for personal care robots: https://www.iso.org/standard/53820.html
• NIST — Performance of Human-Robot Interaction: https://www.nist.gov/programs-projects/performance-human-robot-interaction
• IEEE Standards Association — P7027: Safety and Trust in Relationships in Human-Robot Interaction: https://standards.ieee.org/ieee/7027/12643/

Creado por: Valeria Tenaglia

📲 Instagram 🛄 Linkedin