Los modelos fundacionales, también conocidos como modelos de IA de propósito general o sistemas de inteligencia artificial a gran escala, representan un avance significativo en el campo de la inteligencia artificial. Son modelos de aprendizaje automático entrenados en conjuntos de datos masivos y no etiquetados, lo que les permite realizar una amplia gama de tareas sin necesidad de ser ajustados o entrenados de forma específica para cada una de ellas.
Los modelos fundacionales aún se encuentran en sus primeras etapas de desarrollo, pero ya tienen un impacto significativo en diversos sectores. Su capacidad para realizar múltiples tareas y adaptarse a diferentes dominios los convierte en una herramienta poderosa con un gran potencial para el futuro de la inteligencia artificial.
Beneficios y diferencias de los modelos fundacionales frente a los modelos normales de IA
Beneficios
- Capacidad multitarea: Los modelos fundacionales pueden realizar diversas tareas, mientras que los modelos normales de IA generalmente están diseñados para una sola tarea específica.
- Eficiencia: Se entrenan en conjuntos de datos masivos sin necesidad de etiquetarlos manualmente, lo que reduce el tiempo y el esfuerzo necesarios para su desarrollo.
- Adaptabilidad: Se pueden ajustar a nuevas tareas y dominios específicos con un entrenamiento adicional relativamente ligero.
- Potencial de innovación: Permiten la creación de nuevos productos y servicios gracias a su capacidad para generar contenido creativo y soluciones innovadoras.
Diferencias
- Tamaño y complejidad: Los modelos fundacionales son mucho más grandes y complejos que los modelos normales de IA, lo que requiere mayor potencia computacional para su entrenamiento y ejecución.
- Interpretabilidad: Es más difícil comprender las decisiones tomadas por los modelos fundacionales debido a su complejidad.
- Sesgos y riesgos: Los modelos fundacionales pueden heredar sesgos presentes en los datos con los que se entrenan, además de presentar riesgos potenciales de uso indebido o manipulación.
| Característica | Modelo fundacional | Modelo normal de IA |
|---|---|---|
| Capacidad multitarea | Alta | Baja |
| Eficiencia | Alta | Baja |
| Adaptabilidad | Alta | Baja |
| Tamaño y complejidad | Alto | Bajo |
| Interpretabilidad | Baja | Alta |
| Sesgos y riesgos | Alto | Bajo |
Pese a todas las ventajas que presentan los modelos fundacionales, un modelo estándar(especializado) es lo mas accesible para las empresas y emprendedores que se introducen a este mundo, además de que da un mejor control sobre el producto que construyen. Sin embargo los modelos fundacionales aportan muchas ideas y características que los hacen muy útiles para el uso diario.
Algunos ejemplos de modelos fundacionales son:
- El conocido GPT4 de OpenIA.
- El nuevo Gemini de Google, del cual hicimos un post.
- Megatron-Turing NLG de NVIDIA.
- WuDao 2.0 de la Academia de Ciencias de China.
Déjanos tus dudas y comentarios. Comparte y nos vemos en el próximo post.
, estas van a interactuar con nuestras primeras neuronas, recordemos que el valor que va a llegar a la siguiente neurona esta determinado por 
¿De donde salen los valores para 
y 
? Pues en nuestra primera iteración estos valores son generados para toda la red aleatoriamente, es decir que claramente nuestra predicción 
va ser errónea, pero eso lo iremos ajustando.
, que en este caso será un medio por la diferencia al cuadrado del Ground truth 
menos la predicción 
(taza de aprendizaje), que me va a modular que tanto cambio los pesos, ya que la idea no es cambiarlos bruscamente si no que se dibuje una curva suave en donde se muestre como disminuye el error para alcanzar la convergencia.
, es igual peso que tiene actualmente, menos el learning rate 
de la siguiente manera:
se llama cardinalidad del conjunto 
-corte de un conjunto borroso ![\Alpha\in[0,1]](https://jhontona.com/wp-content/ql-cache/quicklatex.com-ca31f8e7646d82c548cc66b32e4f10ff_l3.png "Rendered by QuickLaTeX.com")
.
Unión
Intersección
Inclusión
Complementario
pero podemos fijar este criterio de decisión dependiendo de nuestra necesidad.
y un hiperplano denotado por un vector 
pareciera que cualquiera de las dos opciones funciona pero solo hay un hiperplano optimo.
y 
representa el mismo hiperplano que el vector 
y 
. Vemos que en el caso de 
tenemos una 
diez veces mayor. A esto se le conoce como problema de escala. La solucion es dividir el vector 
donde 
para cualquier 
(box constraint) es un parámetro de regularización que controla la compensación entre la penalización de las clasificaciones erróneas(teniendo en cuenta las variables de holgura) y el ancho del margen.
para el caso incorrecto
para los casos correctos
). Un entorno(
) consta de un conjunto de hipótesis mutuamente exclusivas(una no puede influir una en otra) y exhaustivas(cubren todas las posibles situaciones de dicho entorno). Este conjunto de hipótesis se llama marco de discernimiento.
![P(H)=[\{\varnothing\},\{h1\},\{h2\}\cdots,\{h1,h2\}\cdots\{h1,h2,\cdots,hn\}]](https://jhontona.com/wp-content/ql-cache/quicklatex.com-5a5cda09db42cbdd5a024db5da0e04d4_l3.png "Rendered by QuickLaTeX.com")
![2^N\in[0,1]](https://jhontona.com/wp-content/ql-cache/quicklatex.com-3cd643da5ff45a62e400441ac6359898_l3.png "Rendered by QuickLaTeX.com")
definida como:
cualquier subconjunto del marco de potencia.
es asignado por el experto según su juicio.
es la suma de todas las masas de probabilidad de los subconjuntos.
asignado a 
indica la creencia en ese conjunto y todos sus subconjuntos.
![[BEL(S),1-BEL(\sim S)]](https://jhontona.com/wp-content/ql-cache/quicklatex.com-b0ed94028488f87b0d820ec12acede46_l3.png "Rendered by QuickLaTeX.com")
es el conjunto complementario de 
una función que estime previamente y 
una función con evidencia añadida, el resultado de combinar ambas funciones es:
son subconjuntos del marco de discernimiento.
lo que da una probabilidad contradictoria.
![H=[\{\varnothing\},\{B\},\{J\},\{S\},\{B,J\},\{B,S\},\{J,S\},\{B,J,S\}]](https://jhontona.com/wp-content/ql-cache/quicklatex.com-5bc9c55eee63d9388dc459a7c5c68dd0_l3.png "Rendered by QuickLaTeX.com")
hace referencia a los parámetros y 
a los coeficientes del modelo; 
es el termino independiente de la combinación lineal.
actúa como corrección al volumen de datos de entrenamiento, con el fin de normalizar la función objetivo.
es el coeficiente de determinación y recoge la cantidad de variabilidad de la clase con respecto a su media aritmética.
es la media aritmética de los valores de una clase. En 
indica una predicción perfecta.
.
