Μπορεί να έχετε δει ένα βίντεο με το πρόσωπο του Νίκολας Κέιτζ να μεταφέρεται σε άλλον χαρακτήρα που κάνει τον γύρο του Διαδικτύου^{(rounds on the internet)} πρόσφατα. Όχι, δεν εννοούμε κλιπ από την ταινία Face/Off . Πρόκειται για σκηνές από διάφορες ταινίες στις οποίες σίγουρα δεν έπαιξε ο Νίκολας Κέιτζ, ωστόσο φαίνονται πολύ πειστικές. ^(Nicholas)Πώς το κατάφεραν αυτό;

Λοιπόν, η απάντηση δεν είναι "μαγεία", αλλά μια τεχνολογία που έχει ονομαστεί "deepfake" και προκαλεί μεγάλο σάλο σε διάφορες βιομηχανίες και κοινότητες.

Τι είναι το "Deepfake";

Η λέξη «deepfake» προέρχεται από τον όρο «deep learning» και φυσικά «fake». Το Deep^(Deep) Learning είναι ένας εξειδικευμένος κλάδος της μηχανικής μάθησης, ο οποίος αποτελεί και πάλι μέρος του συνολικού τομέα της Τεχνητής Νοημοσύνης^{(Artificial Intelligence)} .

Με τη δραματική αύξηση της υπολογιστικής ισχύος και τους νέους τρόπους που ανακαλύφθηκαν για τους υπολογιστές να επεξεργάζονται και να αναλύουν τεράστιο όγκο δεδομένων από τον πραγματικό κόσμο, οι υπολογιστές μπορούν τώρα ξαφνικά να κάνουν πράγματα που οι περισσότεροι από εμάς δεν θα μπορούσαμε ποτέ να φανταστούμε. Οι Deepfakes^(Deepfakes) εφαρμόζουν αυτήν την τεχνολογία για να συνθέσουν ανθρώπινες εικόνες, δημιουργώντας φωτογραφίες ή βίντεο από πράγματα που αυτοί οι άνθρωποι δεν έκαναν και δεν είπαν ποτέ. 

Πώς λειτουργεί η τεχνολογία Deepfake;

Η βαθιά^(Deep) εκμάθηση, η οποία στηρίζει τις μεθόδους deepfake, περιγράφει τη σύγχρονη εφαρμογή της προσομοίωσης νευρωνικού δικτύου σε τεράστια σύνολα δεδομένων. Τα νευρωνικά δίκτυα δεν είναι μια νέα ιδέα ή τεχνολογία, αλλά μέχρι τη σύγχρονη εποχή ήταν αρκετά υποτυπώδη.

Ένα τεχνητό νευρωνικό δίκτυο προσομοιώνει τη διαδικασία μάθησης που συμβαίνει στους βιολογικούς εγκεφάλους, τουλάχιστον σε κάποιο βαθμό. Όταν μαθαίνετε ή αντιμετωπίζετε με άλλο τρόπο τον έξω κόσμο, οι συνδέσεις μεταξύ των εγκεφαλικών κυττάρων σας αλλάζουν.

Σχηματίζουν κυκλώματα και λογικές δομές, ενισχύοντας κάποιες συνδέσεις και αποδυναμώνοντας άλλες. Καθώς κατακτάτε κάτι, όπως το να μαθαίνετε να οδηγείτε ή να παίζετε τένις, αυτά τα εγκεφαλικά κυκλώματα γίνονται γρήγορα και αποτελεσματικά. Τελικά είσαι τόσο καλός σε κάτι που δεν χρειάζεται καν να σκεφτείς να το κάνεις.

Αυτό είναι ουσιαστικά το ίδιο πράγμα που συμβαίνει με ένα σύστημα βαθιάς μάθησης. Εξετάζει σωρεία παραδειγμάτων για κάτι και στη συνέχεια γίνεται προοδευτικά καλύτερο στην «κατανόησή του».

Στην περίπτωση των deepfakes, το λογισμικό εξετάζει παραδείγματα του προσώπου που θέλετε να μεταφέρετε καθώς και το βίντεο στο οποίο θέλετε να το μεταφέρετε. Με αρκετή προπόνηση μπορεί τελικά να συνθέσει ένα πρόσωπο που ταιριάζει με τα δεδομένα προπόνησης και στη συνέχεια να το επικαλύψει απρόσκοπτα σε οποιοδήποτε άλλο πρόσωπο.

Τι λογισμικό^(Software) χρησιμοποιείται για τη δημιουργία Deepfakes;

Υπάρχει μια σειρά από εφαρμογές που επιτρέπουν στους ανθρώπους να κάνουν deepfakes. Το FakeApp^(FakeApp) ήταν η πρώτη εφαρμογή που γνωρίζουμε με στόχο να δώσει στους κανονικούς ανθρώπους τη δυνατότητα να δημιουργήσουν deepfake περιεχόμενο. Ο ιστότοπος που έχει πλέον καταργηθεί και η εύρεση αντιγράφου δεν είναι καθόλου εύκολη.

Οι κατασκευαστές των deepfakes έχουν πλέον προχωρήσει σε μεγάλο βαθμό σε μια εφαρμογή που ονομάζεται DeepFaceLab , η οποία φιλοξενείται στο GitHub και έχει δημιουργήσει μια ατελείωτη ροή εκμάθησης σε μέρη όπως το Reddit .

Κάνοντας ένα Deepfake

Αυτό το άρθρο δεν προορίζεται να είναι ένα σεμινάριο, επομένως θα παρέχουμε μια επισκόπηση του τρόπου με τον οποίο γίνονται τα deepfakes στην πράξη, αλλά δεν θα παρέχουμε ακριβή βήματα για το πώς να τα φτιάξετε μόνοι σας.

Υπάρχουν μερικοί λόγοι για αυτό, αλλά ο κύριος είναι ότι η νομιμότητα της δημιουργίας deepfakes είναι πολύ αμφισβητούμενη. Ακριβώς όπως δεν θα παρέχουμε ακριβή βήματα για να σας βοηθήσουμε να κάνετε πειρατικά λογισμικό ή να κάνετε άλλες παράνομες δραστηριότητες, δεν θα δώσουμε οδηγίες βήμα προς βήμα για τη δημιουργία deepfakes.

Εξάλλου, ο πραγματικός δημιουργός του DeepFaceLab κυκλοφόρησε ένα βήμα προς βήμα εκπαιδευτικό βίντεο^{(step-by-step video tutorial)} για το λογισμικό το οποίο μπορεί να ακολουθήσει ο καθένας, εάν θέλει να αναλάβει την ευθύνη για έναν τέτοιο κίνδυνο.

Για να καταλάβετε πόσο καλό έχει γίνει αυτό το υλικό, ρίξτε μια ματιά σε αυτόν τον ιστότοπο^{(check out this website)} όπου δημιουργείται μια νέα φωτογραφία ενός ατόμου που δεν υπάρχει όταν ανανεώνετε τη σελίδα.

Στόχος μας είναι να σας βοηθήσουμε να κατανοήσετε την τεχνολογία, καθώς είναι βέβαιο ότι θα την αντιμετωπίζετε όλο και περισσότερο όσο περνάει ο καιρός. Τούτου λεχθέντος, αυτές είναι οι μεγάλες φάσεις της δημιουργίας ενός deepfake με το DeepFaceLab^{(DeepFaceLab)} .

Μετά τη λήψη και την αποσυμπίεση του DeepFaceLab^{(DeepFaceLab)} , αντιμετωπίζετε έναν φάκελο που περιέχει πολλούς άλλους φακέλους και μια σειρά από αρχεία δέσμης.

Υπάρχει ένας φάκελος που ονομάζεται "χώρος εργασίας" που περιέχει τα μοντέλα εκπαίδευσης, τα προέλευση βίντεο και την έξοδο. Το DeepFaceLab^{(DeepFaceLab)} λειτουργεί με συγκεκριμένα ονόματα και τοποθεσίες αρχείων, έτσι ώστε τα αρχεία δέσμης να μπορούν να λειτουργούν. Για παράδειγμα, το αρχείο προέλευσης ονομάζεται πάντα "data_src" και ο προορισμός ονομάζεται "data_dst".

Δεν υπάρχει διεπαφή λογισμικού όπως το γνωρίζουν οι περισσότεροι. Απλώς μια λίστα με αριθμημένα αρχεία παρτίδας που αντιπροσωπεύουν τα βήματα της διαδικασίας. Πρώτα^(First) τα βίντεο προέλευσης και προορισμού εξάγονται τα καρέ τους ως αρχεία εικόνων.

Στη συνέχεια εκτελούνται πολλά βήματα ανάλυσης, ακολουθούμενα από εκπαίδευση βασισμένη σε GPU, όπου το νευρωνικό δίκτυο μαθαίνει τι χρειάζεται για τα πρόσωπα στα δύο βίντεο για να δημιουργήσει ένα μοντέλο. Τέλος παράγεται ένα νέο σύνθετο βίντεο.

Κακή χρήση των Deepfakes

Όπως αναφέραμε παραπάνω, τα deepfakes είναι πολύ αμφιλεγόμενα. Ενδέχεται να παραβιάζει τους ισχύοντες νόμους σε ορισμένες χώρες και νέοι νόμοι ετοιμάζονται για την αντιμετώπιση της τεχνολογίας και των εφαρμογών της.

Τα Deepfakes μπορούν να χρησιμοποιηθούν για τη δημιουργία φάρσες, όπως ένα βίντεο ενός προέδρου που λέει τρελά πράγματα^{(video of a president saying crazy things)} . Μπορεί να χρησιμοποιηθεί για την εισαγωγή ατόμων σε πορνογραφικές ταινίες με σκοπό ή να τους παρενοχλήσει ή να τους βλάψει με άλλο τρόπο.

Όπως μπορείτε πιθανώς να φανταστείτε, θα μπορούσατε να κάνετε μεγάλη ζημιά με ένα πειστικό deepfake και οι συνέπειες αν σας πιάσουν μπορεί να γίνουν πολύ πιο σοβαρές στο εγγύς μέλλον.

Ερώτηση Όλα

Τώρα που αυτή η τεχνολογία υπάρχει και λειτουργεί εξίσου καλά με αυτήν, σημαίνει ότι πρέπει να δούμε τα μέσα όπως τα βίντεο με εντελώς νέο πρίσμα. Αν κάποιος κυκλοφορήσει ένα βίντεο στα μέσα κοινωνικής δικτύωσης με ένα διάσημο πρόσωπο ή πολιτικό να λέει ή να κάνει κάτι αμφιλεγόμενο, θα πρέπει πρώτα να ρωτήσετε αν το βίντεο είναι αληθινό.

Τα περισσότερα κακοσχεδιασμένα deepfakes είναι προφανώς ψεύτικα, αφού ξέρετε τι να αναζητήσετε και έχετε δει μερικά. Ωστόσο, σε ορισμένες περιπτώσεις, ακόμη και ένα εκπαιδευμένο μάτι μπορεί να δυσκολεύεται να πει ότι συμβαίνει κάποιο είδος χειραγώγησης CG και καθώς βελτιώνεται η τεχνολογία, τελικά θα καταστεί αδύνατο.

What is a Deepfake and How Are They Made?

You may have seen a video of Nicholas Cage’s face tranѕposed onto another character doing the rounds on the internet recently. No, we don’t mean a clip from the movie Face/Off. These are scenes from various movies in which Nicholas Cage did definitely not play, yet they look very convincing indeed. How did they pull this off?

Well, the answer isn’t “witchcraft”, but a technology that has been dubbed “deepfake” and it’s causing quite a ruckus in various industries and communities.

What is a “Deepfake”?

The word “deepfake” comes from the term “deep learning” and of course “fake”. Deep learning is a specialized branch of machine learning,  which is again part of the overall area of Artificial Intelligence.

With the dramatic rise in computing power and newly-discovered ways for computers to process and analyze massive amount of data from the real world, computers can now suddenly do things most of us could never imagine. Deepfakes apply this technology to synthesize human images, creating photos or videos of things those people never did and never said. 

How Does Deepfake Technology Work?

Deep learning, which underpins deepfake methods, describes the modern application of neural net simulation to massive data sets. Neural nets are not a new concept or technology, but until modern times they have been pretty rudimentary.

An artificial neural net simulates the learning process that happens in biological brains, at least to some extent. When you learn or otherwise deal with the outside world, the connections between your brain cells change.

They form circuits and logical structures, strengthening some connections and weakening others. As you master something, like learning to drive or play tennis, those brain circuits become fast and efficient. Eventually you are so good at something that you don’t even have to think about doing it.

That’s essentially the same thing that happens with a deep learning system. It looks at heaps of examples of something and then becomes progressively better at “understanding it”.

In the case of deepfakes the software looks at examples of the face you want to transpose as well as the video you want to transpose it to. With enough training it can eventually synthesize a face that matches the training data and then seamlessly overlay it on any other face.

What Software is Used to Make Deepfakes?

There are a number of applications that allow people to make deepfakes. FakeApp was the first app we know of aimed at giving normal people a shot at making deepfake content. The website it now defunct and finding a copy is not easy at all.

Makers of deepfakes have now largely moved on to an application called DeepFaceLab, which is hosted on GitHub and has spawned an endless stream of tutorials on places like Reddit.

Making a Deepfake

This article is not meant to be a tutorial, so we are going to provide an overview of how deepfakes are made in practice, but not provide exact steps on how to make one yourself.

There are a few reasons for this, but the main one is that the legality of making deepfakes is highly-contentious. Just as we wouldn’t provide exact steps to help you pirate software or do other illegal activities, we won’t give step-by-step instructions for making deepfakes.

Besides, the actual creator of DeepFaceLab has released a step-by-step video tutorial for the software which anyone can follow along, should they wish to take responsibility for such a risk.

To get a gist of how good this stuff has become, check out this website where a new photograph of a person who does not exist is generated when you refresh the page.

Our goal is to help you understand the technology, since you are bound to encounter it more and more as time goes by. With that being said, these are the broad phases of creating a deepfake with DeepFaceLab.

After downloading and unzipping DeepFaceLab you are faced with a folder containing many other folders and a series of batch files.

There’s a folder called “workspace” which contains the training models, the source videos and the output. DeepFaceLab works with specific file names and locations, so that the batch files can work. For example, the source file is always named “data_src” and the destination is named “data_dst”.

There is no software interface as most people know it. Just a list of numbered batch files representing the steps of the process. First the source and destination videos have their frames extracted as picture files.

Then several analysis steps are run, followed by GPU-based training, where the neural net learns what it needs about the faces in the two videos to build a model. Finally a new composite video is produced.

Misuse of Deepfakes

As we mentioned above, deepfakes are very controversial. It may violate existing laws in some countries and new laws are in the works to deal with the technology and its applications.

Deepfakes can be used to create hoaxes, such as a video of a president saying crazy things. It can be used to insert people into pornographic films with the purpose or harassing or otherwise harming them.

As you can probably imagine, you could do a lot of damage with a convincing deepfake and the consequences if you are caught may become much more severe in the near future.

Question Everything

Now that this technology exists and works as well as it does, it means we have to look at media like videos in a whole new light. If someone circulates a video on social media of a famous person or politician saying or doing something controversial, you’ll first have to ask if the video is even real.

Most poorly-done deepfakes are obviously fake, once you know what to look for and have seen a few. However, in some cases even a trained eye may have trouble telling that some sort of CG manipulation is happening and as the tech improves it will eventually become impossible.

Related posts

• 3 τρόποι για να τραβήξετε μια φωτογραφία ή ένα βίντεο σε ένα Chromebook

• Πώς να εντοπίσετε λογισμικό παρακολούθησης ή κατασκοπείας υπολογιστή και email

• Τεχνολογία επίπεδων οθονών απομυθοποιημένη: TN, IPS, VA, OLED και άλλα

• Πώς να ενεργοποιήσετε ή να απενεργοποιήσετε το Caps Lock στο Chromebook

• 4 τρόποι για να βρείτε τις καλύτερες επιλογές Internet (ISP) στην περιοχή σας

• Το Discord δεν ανοίγει; 9 τρόποι για να διορθώσετε

• Τι σημαίνουν BCC και CC; Κατανόηση της βασικής γλώσσας ηλεκτρονικού ταχυδρομείου

• Πώς να διορθώσετε τον κωδικό σφάλματος 83 της Disney Plus

• Καλύτερες ρυθμίσεις κάμερας για πορτρέτα

• Πώς να κάνετε το Spotify πιο δυνατό και καλύτερο ήχο

• Πώς να απαλλαγείτε από την Αναζήτηση Yahoo στο Chrome

• OLED vs MicroLED: Πρέπει να περιμένετε;

• Πώς να βρείτε τους καλύτερους διακομιστές Discord

• Δεν μπορείτε να προγραμματίσετε ένα Uber εκ των προτέρων; Δείτε τι πρέπει να κάνετε

• Πώς να κάνετε οποιονδήποτε ενσύρματο εκτυπωτή ασύρματο με 6 διαφορετικούς τρόπους

• DVI vs HDMI vs DisplayPort – Τι πρέπει να γνωρίζετε

• Πώς να χρησιμοποιήσετε το VLOOKUP στα Φύλλα Google

• Τι είναι η λειτουργία Discord Streamer Mode και πώς να τη ρυθμίσετε

• Πώς να αναζητήσετε φίλους στο Facebook κατά τοποθεσία, εργασία ή σχολείο

• Μπορείτε να αλλάξετε το όνομά σας στο Twitch; Ναι, αλλά να είστε προσεκτικοί