Cara és el nom d'una nova proposta al món de les xarxes socials. Una iniciativa que apunta a atraure els artistes de veritat, deixant de banda els que utilitzen IA. Cara és una xarxa social que aplica diferents tecnologies per a la detecció de contingut creat mitjançant IA. D'aquesta manera, garanteix que les imatges i propostes de cada usuari són pròpies i no han estat generades mitjançant solucions de programari.
Si bé Cara acaba de fer els primers passos, els resultats són satisfactoris. Difícilment s'aconsegueixin resultats 100 encertats, tenint en compte més el nivell de desenvolupament de la tecnologia IA. A través d?un detector d?intel·ligència artificial, apunta a desbancar Instagram per compartir peces gràfiques. La crítica més gran cap a la xarxa social de Meta és que les obres que es comparteixen alimenten els models IA i fan perdre originalitat a les peces.
Cara, una xarxa social contra la IA i el problema del shadow ban
molts usuaris creadors de contingut i artistes en general estan abandonant Instagram. El principal motiu és el shadow ban, un tipus de cancel·lació que Meta no avisa que aplica, i que resta visibilitat a les publicacions. Principalment es deu a contingut que des d'Instagram consideren inadequat. Però també pot passar quan hi ha usuaris que usen la Intel·ligència Artificial per crear contingut duplicat o amb un estil molt similar, i s'acaben afectant tots els comptes amb aquestes característiques.
Per evitar-ho, apareix Cara la xarxa social amb filtres anti-IA que cerca generar una comunitat artístiques més participativa i alhora més protegida contra els robatoris d'identitat gràfica. Un clar exemple del shadow ban i els motius per mudar-se de xarxa social el narren artistes que de cop i volta veuen les seves publicacions amb un abast molt menor. De 1000 o 1500 M'agrada passen, de la nit al dia, a 200. Això pot ser perquè Instagram va aplicar una cancel·lació silenciosa o shadow ban. I la resposta que estan trobant els artistes és traslladar-se a Cara.
La xarxa social Cara està pensada per i per a artistes, i utilitza filtres anti-IA per evitar plagis de contingut i estils. La principal crítica a Instagram és que utilitza el contingut que pugen els usuaris per entrenar els diferents models d'intel·ligència artificial. El resultat, comptes fantasma i còpies de diferents peces gràfiques, estils i fins i tot maneres d'acostar-se al dibuix i al disseny. A Cara això es veu fortament reduït en aplicar filtres que detecten si una peça està lleument inspirada o si directament roba a un artista original els seus trets distintius.
Com funciona Cara, la xarxa social contra la IA?
La plataforma té un disseny particular que permet publicar imatges i GIFs amb una característica única: el detector automàtic de contingut generat per IA. Els seus desenvolupadors sostenen que pot filtrar les creacions artificials del dossier de cada artista. Aquesta és la característica que es ven com a més atractiva per a aquells artistes que han patit el denominat shadow ban a Instagram.
El moviment a una altra plataforma també acompanya reclams per part de països, institucions i artistes exigeixen detecció de material amb Intel·ligència Artificial. Hi ha fortes controvèrsies relacionades amb lús daquests continguts en campanyes publicitàries i concursos, ja que estan menyscabant la capacitat creativa dels artistes.
La política de Cara sobre contingut IA
Cara va ser creada a gener de 2023. El seu objectiu és facilitar la recerca d'art creada per humans actualment inundada per la IA generativa. Els creadors sostenen aquest objectiu al seu bloc, i el resultat ha estat molt ben rebut per la comunitat.
La xarxa social ja té 700 usuaris actius entre artistes i entusiastes de les disciplines creatives. Cada usuari pot compartir el seu dossier, interactuar amb altres, trobar ofertes laborals i vincular els seus currículums i experiències de manera simple. L'apartat de polítiques d'ús a Cara està obertament contra la intel·ligència artificial i els seus usos actuals. Sostenen que primer hi ha d'haver una resolució respecte de qüestions ètiques i de privadesa sobre els continguts i creacions.
La fundadora de l'aplicació es diu Jingna Zhang, i és una fotògrafa que participo en la demanda col·lectiva contra Google. En aquesta acció legal, s'acusa la multinacional d'utilitzar el treball d'artistes sense autorització per a l'entrenament d'imatge, el generador d'imatges mitjançant intel·ligència artificial que Google està elaborant.
Com detecta Cara les imatges creades per IA?
Tot i que pot semblar una contradicció, Cara detecta imatges amb Intel·ligència Artificial a través d'una IA. Es diu Hive i compleix la funció de detecció i filtre de fotografies. El model va ser dissenyat amb l'objectiu de moderar contingut, i en particular tot aquell que comparteixi trets propis d'una creació mitjançant Intel·ligència Artificial. Els termes dús us impedeixen recol·lectar informació per a lentrenament dels seus sistemes. Es tracta d'una IA efectiva, però que és lluny de ser infal·lible. La revisió manual dels fitxers acaba sent l'única forma encertada gairebé íntegrament, per detectar imatges generades mitjançant IA.
Els problemes amb Instagram que denuncien els artistes
D'acord amb una bona part de la comunitat artística, els problemes que tenen lloc a Instagram per a les obres artístiques són principalment dos. D'una banda, la moderació de contingut que acaba retallant la llibertat d'expressió, i de l'altra l'ús d'obres per entrenar models IA.
A Meta estan permesos els nus en fotografies, escultures i obres d'art, però el sistema de moderació falla més d'una oportunitat. Per això molts artistes acaben patint el denominat shadow ban i poden no adonar-se'n per diverses setmanes de la sanció. Instagram i Facebook no avisen que estan sancionant el compte, simplement comencen a reduir l'aparició del contingut als feeds i recomanacions de la comunitat.
Cara ve a posar un punt final a aquestes pràctiques. És una xarxa social on la Intel·ligència Artificial generativa no té permès l'accés, i on la moderació és realitzada per artistes i la comunitat artística en conjunt.