Una aplicació elimina la roba de les fotos de les dones i és un cas repugnant de com s’utilitza malament la IA
Exempció de responsabilitat: el contingut d'aquesta història és 'No és segur per al treball', així que procediu amb precaució. A més, MensXP no és la font ni promou el programari. La idea darrere de la història és sensibilitzar la gent sobre el que pot fer la IA si s’utilitza malament.
Hi ha dies que ens sentim aclaparat amb tots els avenços tecnològics que han canviat el món per millorar. I després hi ha dies com aquest en què ens sentim terribles i repugnants pensant en totes les coses horribles que pot fer la tecnologia.
És possible que la majoria de vosaltres tingueu la paraula 'Deepfakes', oi? Doncs bé, si creieu que era horrible, us quedareu aterrats en conèixer aquest nou programari, que no nomenaré, òbviament. És un programari repugnant i no hi ha manera de donar el seu nom i promocionar-lo.
Es tracta d’un programari que aprofita el poder de la IA i de les xarxes neuronals per fer imatges falses de dones nues. Sí, sé què estàs pensant ara mateix. De fet, és una aplicació fastigosa que no hauria d’existir en primer lloc. De fet, em va sorprendre molt que fos fàcil descarregar-lo i utilitzar-lo. Crec fermament que s’hauria de retirar el més aviat possible, abans que la gent s’hi posi les mans i comencés a fer-ne un mal ús, per exemple, en un lloc de treball o en espais públics. Igual, pensa en què passa si / quan arriba a les mans equivocades. Ni tan sols vull pensar què passa quan els pervertits i els pedòfils comencen a utilitzar-lo.
En poques paraules, el programari pot convertir una foto d’una persona vestida perfectament en una imatge nua de la mateixa persona amb un aspecte realista. Crec que sabeu el que fa, així que no ho explicaré en veu alta. Això és el que pot fer el programari.
Per tant, el programari només funciona amb imatges de dones. Sí, les persones que van crear això van ser molt particulars sobre el que volien fer i funciona sorprenentment bé. D'acord amb Placa mare , sembla que funciona millor en imatges on la persona ja mostra molta pell com, per exemple, un banyador, per exemple.
Les persones que van crear això han creat literalment un lloc web perquè el programari estigui disponible per descarregar gratuïtament. També hi ha una versió de pagament del programari que us proporcionarà funcions addicionals. No tenia intenció de descarregar l’aplicació per comprovar-la, així que vaig investigar.
Segons les persones que l'han provat, el programari funciona tant en màquines Windows com Linux i no es necessita absolutament cap experiència per utilitzar-lo. Diuen que és tan fàcil retallar una imatge en un editor de fotos bàsic. Ni tan sols em molestaré a afegir més imatges i promouré l’aplicació, però, segons els resultats que he vist, sembla que funciona amb molta precisió.
com empaquetar la motxilla per fer excursions
Això és el que va dir el creador anònim de l'aplicació quan li van preguntar per què va crear un programari tan espantós:
Fa uns dos anys vaig descobrir el potencial de la IA i vaig començar a estudiar els conceptes bàsics. Quan vaig saber que les xarxes GAN eren capaces de transformar una foto diürna en una de nit, em vaig adonar que seria possible transformar una foto vestida en una foto nua. Eureka. Em vaig adonar que les ulleres de raigs X són possibles. Impulsat per la diversió i l'entusiasme per aquest descobriment, vaig fer les meves primeres proves, obtenint resultats interessants.
Sincerament, no importa per què el va crear. A nosaltres, éssers humans, ens hauria de preocupar més el fet que existeixi un programari com aquest en aquest món i tothom, com ara, literalment, qualsevol pot descarregar-lo i crear imatges de nu falses que, per desgràcia, semblen molt reals.
La idea de crear deepfakes per si mateixa era espantosa, però això només porta les coses a un altre nivell. La raó per la qual és un motiu de preocupació encara més gran és que una aplicació com aquesta és fàcilment accessible i fàcil d’utilitzar que deepfake. El fet que sigui tan fàcil com instal·lar-lo i jugar-lo com un videojoc és el que em fa por.
Realment espero veure que els sistemes milloren en la detecció de falsificacions profundes. Només puc començar a imaginar com es pot fer un mal ús si s’arriba a les mans equivocades. És horripilant dir que els deepfakes i les aplicacions com aquesta amb prou feines esgarrapen la superfície de la IA. Sembla que estarem condemnats si no hi ha una regulació adequada per a l’ús de la IA.
Font: vici
Què en penses?
Inicieu una conversa, no un foc. Publicar amb amabilitat.
Escriu un comentari
