Todos los días parecen lanzarse nuevos modelos, herramientas y plataformas de inteligencia artificial, pero pocos han conseguido el revuelo que he visto en torno a Groq, y ese revuelo parece bien merecido.
Fundada por un grupo en 2016, Groq construye chips personalizados diseñados específicamente para ejecutar grandes modelos de lenguaje como el que subyace a ChatGPT de OpenAI o Gemini de Google.
Actualmente tiene acceso a varios modelos de código abierto, incluido Meta’s Llama 2 y la familia de modelos del unicornio francés de IA Mistral, incluido el nivel cercano a GPT-4 Mixtral.
La compañía dice que puede responder a consultas 75 veces más rápido de lo que un humano promedio puede escribir y significativamente más rápido de lo que cualquiera puede leer: más de 100 tokens por segundo. Esto es difícil de comparar, pero es más rápido que ejecutarlo en una GPU o CPU.
Cómo utilizar Groq
Puede que tenga un nombre similar al chatbot Grok de Elon Musk que reside en el fondo de X, pero Groq no tiene un modelo de IA propio, sino que proporciona acceso rápido a los modelos líderes.
La velocidad no siempre es esencial para que las herramientas de inteligencia artificial sean utilizables, pero si desea mantener la conversación más natural con el bot, entonces desea una respuesta rápida.
1. Visita el sitio web de Groq
(Imagen: © Groq)
Por ahora, la mejor forma de utilizar Groq es visitar el sitio web de la plataforma de IA, registrarse y empezar a chatear. Para empezar ir a groq.com.
2. Inicia sesión con Google
(Imagen: © Groq)
Actualmente la única opción para iniciar sesión es con Google, aunque puedes utilizar la plataforma por un tiempo sin tener que iniciar sesión.
Para iniciar sesión haga clic en el botón Bienvenido en la esquina superior derecha entonces haga clic en Iniciar sesión. Esto lo llevará a la página de inicio de sesión de Google, donde podrá simplemente regístrese con su cuenta de Google existente.
3. Selecciona un modelo
(Imagen: © Groq)
Al usar ChatGPT, suponiendo que pague por Plus, tiene la opción de cambiar entre GPT-3.5 y GPT-4.
Groq funciona de manera similar, permitiéndote cambiar entre diferentes modelos y diferentes versiones de modelos. Para cambiar el modelo solo haga clic en el nombre del modelo en la parte superior izquierda de la ventana.
Los últimos 2 o 3 caracteres determinan el tamaño de la ventana de contexto. Por ejemplo, 32k significa que la IA puede contener hasta 32.000 tokens, o unas 24.000 palabras, antes de olvidar el inicio del mensaje.
4. Empieza a hacer tu pregunta
(Imagen: © Groq)
Groq funciona igual que Gemini, Copilot, Claude o ChatGPT. Tiene un cuadro de aviso donde puede escribir el mensaje de su elección y luego aparecerá la respuesta.
Para empezar solo escribe tu mensaje y presione Enter o haga clic en la flecha roja.
5. Lea la respuesta de la IA
(Imagen: © Groq)
La respuesta de la IA, así como la rapidez con la que generó esa respuesta, aparecerán debajo del cuadro de aviso. Puedes leerlo, hacer una pregunta de seguimiento o modificar la respuesta.
6. Modificar la respuesta
(Imagen: © Groq)
Para modificar la respuesta haga clic en el botón Modificar. Esta es una característica inteligente que nunca antes había visto en esta medida en un chatbot. Está disponible en Docs o Word, pero es nuevo para una herramienta de chatbot. Puede hacer clic en Modificar y seleccionar entre diferentes opciones de diseño. Esto refina efectivamente el mensaje original, como colocarlo en una tabla o como una lista.
7. Establecer un mensaje del sistema
(Imagen: © Groq)
Un mensaje a nivel de sistema es similar a las instrucciones personalizadas en ChatGPT; es un conjunto de instrucciones básicas que la IA debe seguir en cualquier respuesta a un mensaje. Esto podría usarse, por ejemplo, para decirle que actúe como un conferenciante estricto o una abuela amable. También puede brindarle información básica, como la estadística de su nombre, que necesita que se mantenga en su memoria por más tiempo que un solo chat.
Para acceder a él haga clic en el icono de engranaje en la parte superior derecha y seleccione Aviso del sistema.
8. Copia el contenido de un mensaje.
(Imagen: © Groq)
Puede enviar varios mensajes y copiar el contenido de cada respuesta inpidual haciendo clic en el icono de copiar junto al botón Modificar. También puedes copiar tu mensaje inicial.
Para obtener más tutoriales sobre el uso de herramientas de inteligencia artificial, consulte nuestra guía para crear imágenes usando la búsqueda de Google, una guía para crear videos con Runway y cómo hacer preguntas a YouTube sobre videos.