Hola @samuel_lab, gracias por exponer este problema tan común. Es cierto que el comportamiento de generación de robots.txt en PrestaShop 9 (y versiones anteriores) puede ser un punto de fricción si necesitas un control granular.
El archivo robots.txt que PrestaShop genera desde Parámetros de la tienda > Tráfico y SEO está diseñado para ser una solución 'plug-and-play' para la mayoría de tiendas, pero no permite una personalización avanzada sin conflicto si lo regeneras. Las directivas Disallow: /assets/ o similares son problemáticas porque impiden que los motores de búsqueda rastreen y rendericen correctamente tu página, lo que afecta la experiencia de usuario y, por ende, tu SEO móvil.
Aquí tienes la forma correcta de manejarlo en PrestaShop 9:
Control Manual del robots.txt: Si necesitas un robots.txt a medida, lo mejor es crear y mantener tu propio archivo robots.txt manualmente en la raíz de tu instalación de PrestaShop. Una vez que tengas tu archivo personalizado con las directivas que necesitas (asegurándote de NO bloquear directorios vitales como /themes/, /assets/, /img/, /js/, /css/ para evitar los problemas de renderizado), debes ir a Parámetros de la tienda > Tráfico y SEO y asegurarte de que la opción para 'Generar archivo robots.txt' esté configurada en NO. De esta forma, PrestaShop no intentará sobrescribirlo con su versión estándar.
Asegúrate de incluir en tu robots.txt reglas como Disallow: /search.php o Disallow: /cart.php (o /cart) para evitar que Google indexe resultados de búsqueda internos o páginas de carrito vacías, que consumen presupuesto de rastreo sin aportar valor.
Sitemap XML: Para el sitemap, desde la misma sección Parámetros de la tienda > Tráfico y SEO, PrestaShop te permite configurarlo. Asegúrate de que las opciones de 'Frecuencia de actualización' y 'Prioridad' reflejen la relevancia de tus páginas. Si el sitemap no se actualiza, verifica los permisos de escritura para la carpeta /sitemaps/ dentro de la raíz de tu tienda. También es crucial que la tarea programada (cron job) de PrestaShop se esté ejecutando correctamente en tu servidor, ya que es la encargada de actualizar el sitemap de forma periódica. Puedes verificar esto con tu proveedor de hosting.
Siguiendo estos pasos, deberías tener un control total sobre tu robots.txt y asegurar que tu sitemap se genere y actualice sin conflictos.