Ya salió nuestro post en el periódico @LaVanguardia hablando sobre IA y como estamos desde @helmcode intentando echar una mano con todo lo que se nos viene encima. Super contento con el resultado de la entrevista 🚀 Dejo link al post completo en el siguiente tweet.

Ya servimos modelos sin censura a empresas pero solo bajo demanda y dedicados a esa empresa que nos lo pide. Nos están públicos en el catálogo.

Aunque lo hagas si termina pasando algo, como plataforma de inferencia sigues siendo, en parte, culpable de lo que haya pasado. No lo digo yo lo dice la legislación al menos aquí en EU. Y eso puede incurrir desde penas legales hasta multas que en muchos casos pueden ser astronómicas…

Se que parezco un loquito pero de verdad que ves ciertas cosas que te hacen cuestionarte absolutamente todo

Disponibilizar modelos sin censura para empresas bajo un acuerdo y dejando la responsabilidad legal clara es posible. Lo hacemos. Disponibilizarlos para el público general es muy complejo. Ya que por mucho que explícitamente delegues la responsabilidad al usuario y le obligues a aceptar ciertos términos y condiciones. Al menos en EU, la plataforma es responsable también de lo que ocurra en su sistema. Sé que la mayoría, espero, sois personas con dos dedos de frente y entendéis todas las cosas buenas que pueden aportar este tipo de modelos en especial en temas de ciberseguridad y en algunos campos de investigación. Sin embargo, el problema está en quien ya sea por desconocimiento de la legislación o por curiosidad mal encausada o por simple maldad podrían hacer con modelos sin censura. No creo ni que haga falta poner ejemplos. Es un tema interesante pero también bastante peliagudo para entrar en debate incluso. Ya que mientras más mejoren los modelos abiertos y estos además sean más pequeños y eficientes de correr. Más fácil será tener acceso a estos modelos. Es una bomba que tiene puesta la cuenta atrás. Toda esta oleada de vulnerabilidades, herramientas decompiladas, suplantaciones de identidad, falsificaciones…. son solo la punta del iceberg. - pero Cristian, esto ya existía antes de la IA. Si, pero es que antes hasta un script kiddie tenía algo de conocimiento para hacer cosas. Ahora estamos apunto de entrar en un momento donde -casi- cualquier fulano con un poco de mala baba va a tener un experto en muchas cosas a mano y sin ningún tipo de pudor ni moral. Vivo muy pegado a diferentes empresas de ciberseguridad de diferentes ámbitos y cada conversación que tengo con ellos me hace querer ponerme el gorrito de aluminio y desenchufarme de la red. Obviamente no es realista esto pero hay que ver la forma de fortalecer en general cualquier parte no solo de nuestras aplicaciones sino de toda la cadena. Empezando por las mismas personas. Y no hablo ya solo a nivel empresarial con trabajadores sino incluso personal con familia y amigos. Tiempos convulsos nos esperan.

Modelos pequeños especializados

Me da que el que vive lejos eres tú 😜 jajaja

Saúl? Jaja el no se pierde una nunca 😂

Y sigo sin tener idea de marketing… yo solo comparto lo que hago y poco más la verdad Dicho esto, gracias por decir eso de Helmcode ♥️

Algún día me van a acusar por crear adictos a los tokens, lo veo clarísimo 😅

Si te contara lo que pasan @paumori1 y @crstiax con los suyos... mejor que no lo sepas! jajaja

🤔 Yo no soy nadie en comparación con Jared pero también os recomiendo poner un sistema de gobernanza encima de cualquier proveedor que uséis. Más si sois una empresa. Es fundamental que podáis gestionar permisos, accesos, budgets y en general todo lo que va a la IA sin depender de un proveedor. Que cambiar de proveedor no implique cambiar todas vuestras apps sino que apunte a este sistema de gobernanza y ya este sea el que distribuya. Poco a poco la IA se está convirtiendo en un sistema crítico que es fundamental tener correctamente distribuido y replicado. ¿Como lo podéis hacer fácil y sencillo? Montando un LiteLLM, por ejemplo, por encima. Luego podéis complicaros lo que queráis pero este se monta fácil y rápido en vuestra propia infra, es Open Source y la versión gratuita bien os sirve para el 99% de las cosas básicas que necesita un sistema de gobernanza. La empresa vivirá más tranquila.

Modelos sin censura en favor de proteger y encontrar posibles vectores de ataque

No realmente, si indicamos que levantamos el modelo que necesite el cliente aunque no esté en catálogo pero tocará hacer una sección de esto