1 00:00:24,065 --> 00:00:26,818 Θεωρώ ότι η τεχνητή νοημοσύνη προκαλεί δέος. 2 00:00:28,361 --> 00:00:31,489 Εντάξει, κυκλώνοντας επάνω. Καλός σχηματισμός. 3 00:00:33,116 --> 00:00:36,703 Το AI έχει τις δυνατότητες για την εξάλειψη της φτώχειας, 4 00:00:36,786 --> 00:00:38,705 δώστε μας νέα φάρμακα, 5 00:00:39,330 --> 00:00:41,583 και να κάνουμε τον κόσμο μας ακόμα πιο ειρηνικό. 6 00:00:46,087 --> 00:00:47,087 Ωραία δουλειά. 7 00:00:49,883 --> 00:00:53,428 Υπάρχουν όμως τόσοι πολλοί κίνδυνοι στην πορεία. 8 00:01:04,773 --> 00:01:09,611 Με την AI, ουσιαστικά δημιουργούμε μια μη ανθρώπινη νοημοσύνη 9 00:01:09,694 --> 00:01:11,863 αυτό είναι πολύ απρόβλεπτο. 10 00:01:14,407 --> 00:01:16,451 Καθώς γίνεται πιο ισχυρό, 11 00:01:16,534 --> 00:01:19,746 που είναι οι κόκκινες γραμμές θα σχεδιάσουμε με AI, 12 00:01:19,829 --> 00:01:22,665 όσον αφορά το πώς θέλουμε να το χρησιμοποιήσουμε, ή να μην το χρησιμοποιήσω; 13 00:01:25,001 --> 00:01:28,505 Δεν υπάρχει μέρος που να είναι σημείο μηδέν για αυτή τη συζήτηση 14 00:01:28,588 --> 00:01:31,049 περισσότερο από στρατιωτικές εφαρμογές. 15 00:01:34,010 --> 00:01:38,890 Το πεδίο μάχης έχει γίνει πλέον την επαρχία του λογισμικού και του υλικού. 16 00:01:41,059 --> 00:01:42,936 Ο στόχος αποκτήθηκε... 17 00:01:43,019 --> 00:01:44,771 Και οι στρατιωτικοί συναγωνίζονται 18 00:01:44,854 --> 00:01:48,399 να αναπτύξει γρηγορότερα την τεχνητή νοημοσύνη από τους αντιπάλους τους. 19 00:01:49,526 --> 00:01:50,526 Είμαι νεκρός. 20 00:01:53,822 --> 00:01:55,782 Προχωράμε προς έναν κόσμο 21 00:01:55,865 --> 00:01:58,326 όπου όχι μόνο οι μεγάλοι στρατιώτες, 22 00:01:58,409 --> 00:02:02,997 αλλά μη κρατικοί φορείς, ιδιωτικές βιομηχανίες, 23 00:02:03,081 --> 00:02:06,042 ή ακόμα και το τοπικό μας αστυνομικό τμήμα κάτω στο δρόμο 24 00:02:06,543 --> 00:02:10,046 θα μπορούσε να χρησιμοποιήσει αυτά τα όπλα που μπορεί αυτόνομα να σκοτώσει. 25 00:02:12,006 --> 00:02:17,303 Θα παραχωρήσουμε την απόφαση να αφαιρέσουμε μια ζωή σε αλγόριθμους, σε λογισμικό υπολογιστών; 26 00:02:18,638 --> 00:02:21,516 Είναι ένα από τα πιο πιεστικά ζητήματα της εποχής μας. 27 00:02:23,935 --> 00:02:26,354 Και, αν δεν χρησιμοποιηθεί με σύνεση, 28 00:02:26,437 --> 00:02:30,275 εγκυμονεί σοβαρό κίνδυνο σε κάθε άτομο στον πλανήτη. 29 00:03:28,291 --> 00:03:30,376 Καλή δουλειά, παιδιά. 30 00:03:59,906 --> 00:04:02,200 Αυτός είναι ένας ευρύτερος φακός από ό,τι είχαμε πριν. 31 00:04:02,283 --> 00:04:03,117 Πραγματικά; 32 00:04:03,201 --> 00:04:05,203 Μπορείτε να δείτε πολλά περισσότερα δεδομένα. 33 00:04:05,286 --> 00:04:06,287 Πολύ κουλ. 34 00:04:07,538 --> 00:04:11,167 Στο Shield AI, κατασκευάζουμε έναν πιλότο AI 35 00:04:11,251 --> 00:04:14,879 αυτό είναι η αυτοοδήγηση, τεχνολογία τεχνητής νοημοσύνης 36 00:04:14,963 --> 00:04:16,631 και να το βάλεις στο αεροσκάφος. 37 00:04:19,300 --> 00:04:21,719 Όταν μιλάμε για πιλότο AI, 38 00:04:21,803 --> 00:04:25,139 σκεφτόμαστε να δώσουμε ένα αεροσκάφος υψηλότερο επίπεδο αυτονομίας. 39 00:04:25,223 --> 00:04:27,850 Θα λύσουν προβλήματα μόνα τους. 40 00:04:29,602 --> 00:04:32,355 Το Nova είναι ένα αυτόνομο τετρακόπτερο 41 00:04:32,438 --> 00:04:35,942 που εξερευνά κτίρια και υπόγειες κατασκευές 42 00:04:36,859 --> 00:04:38,611 μπροστά από τις δυνάμεις εκκαθάρισης 43 00:04:38,695 --> 00:04:41,322 να παρέχει μάτια και αυτιά σε αυτούς τους χώρους. 44 00:04:41,906 --> 00:04:44,534 Σίγουρα μπορείς να πεις ένας τόνος βελτιώσεων 45 00:04:44,617 --> 00:04:45,618 αφού το είδαμε τελευταία. 46 00:04:45,702 --> 00:04:47,930 Δουλεύουμε σε ορισμένες εξερευνητικές αλλαγές σήμερα. 47 00:04:47,954 --> 00:04:50,248 Δουλεύουμε λίγο πράγματα από όροφο. 48 00:04:50,331 --> 00:04:53,584 Θα τελειώσει έναν όροφο, όλα τα δωμάτια, πριν πάει στο δεύτερο. 49 00:04:54,294 --> 00:04:56,796 - Αυτό είναι φοβερό. - Κάναμε κάποιες αλλαγές πρόσφατα... 50 00:04:56,879 --> 00:04:58,548 Πολλοί με ρωτούν συχνά 51 00:04:58,631 --> 00:05:02,468 γιατί τεχνητή νοημοσύνη είναι μια σημαντική ικανότητα. 52 00:05:02,552 --> 00:05:06,973 Και σκέφτομαι μόνο τις αποστολές που εκτελούσα. 53 00:05:09,142 --> 00:05:10,935 Πέρασε επτά χρόνια στο Ναυτικό. 54 00:05:11,561 --> 00:05:15,273 Ήμουν πρώην Navy SEAL αναπτύχθηκε δύο φορές στο Αφγανιστάν, 55 00:05:15,356 --> 00:05:17,191 μια φορά στο Pacific Theatre. 56 00:05:18,026 --> 00:05:22,947 Σε μια δεδομένη μέρα, ίσως χρειαστεί να ξεκαθαρίσουμε 150 διαφορετικές ενώσεις ή κτίρια. 57 00:05:30,997 --> 00:05:34,250 Μία από τις βασικές δυνατότητες είναι μάχη από κοντά. 58 00:05:35,293 --> 00:05:39,172 Πυροβολισμοί σε εξαιρετικά κοντινές αποστάσεις μέσα σε κτίρια. 59 00:05:41,466 --> 00:05:42,967 Σε πυροβολούν. 60 00:05:43,468 --> 00:05:46,471 Υπάρχουν IED δυνητικά μέσα στο κτίριο. 61 00:05:49,015 --> 00:05:55,229 Είναι το πιο επικίνδυνο πράγμα ότι οποιοδήποτε μέλος των δυνάμεων ειδικών επιχειρήσεων, 62 00:05:55,313 --> 00:05:58,358 οποιοδήποτε μέλος του πεζικού, μπορεί να κάνει σε μια ζώνη μάχης. 63 00:05:58,441 --> 00:05:59,441 Μηδενός εξαιρούμενου. 64 00:06:12,497 --> 00:06:16,334 Για το υπόλοιπο της ζωής μου Θα είμαι ευγνώμων για τον χρόνο μου στο Ναυτικό. 65 00:06:17,168 --> 00:06:22,423 Υπάρχει μια συλλογή από στιγμές και αναμνήσεις που όταν τις σκέφτομαι, 66 00:06:22,507 --> 00:06:24,592 Σίγουρα συγκινούμαι. 67 00:06:28,346 --> 00:06:32,725 Είναι κλισέ ότι η ελευθερία δεν είναι δωρεάν, αλλά το πιστεύω 100%. 68 00:06:32,809 --> 00:06:37,105 Χμ, το έχω ζήσει, και θέλει πολλές θυσίες. 69 00:06:38,022 --> 00:06:39,022 Συγνώμη. 70 00:06:41,067 --> 00:06:44,570 Όταν συμβαίνει κάτι κακό σε έναν από τους συμπαίκτες σου, 71 00:06:44,654 --> 00:06:46,864 είτε έχουν πληγωθεί είτε σκοτωθούν, 72 00:06:46,948 --> 00:06:49,700 χμ, είναι απλά ένα... Είναι πραγματικά τραγικό πράγμα. 73 00:06:49,784 --> 00:06:52,912 Ξέρεις, για μένα τώρα στη δουλειά που κάνουμε, 74 00:06:52,995 --> 00:06:56,582 είναι κίνητρο για να... να μπορέσω 75 00:06:56,666 --> 00:06:58,835 ξέρεις, μειώστε τον αριθμό των φορών 76 00:06:58,918 --> 00:07:00,336 που θα ξανασυμβεί. 77 00:07:07,176 --> 00:07:08,886 Στα τέλη της δεκαετίας του 2000, 78 00:07:08,970 --> 00:07:11,556 υπήρξε αυτό το ξύπνημα εντός του Υπουργείου Άμυνας 79 00:07:11,639 --> 00:07:15,351 σε αυτό που μπορείτε να καλέσετε η τυχαία επανάσταση της ρομποτικής. 80 00:07:15,893 --> 00:07:19,564 Αναπτύξαμε χιλιάδες αέρα και ρομπότ εδάφους στο Ιράκ και το Αφγανιστάν. 81 00:07:21,482 --> 00:07:24,068 Όταν με ρώτησαν από την κυβέρνηση Ομπάμα 82 00:07:24,152 --> 00:07:26,404 να γίνει αναπληρωτής υπουργός Άμυνας, 83 00:07:26,904 --> 00:07:29,323 ο τρόπος που έγινε ο πόλεμος... 84 00:07:29,407 --> 00:07:31,117 σίγουρα άλλαζε. 85 00:07:32,452 --> 00:07:36,330 Χρησιμοποιήθηκαν ρομπότ όπου θα είχαν χρησιμοποιηθεί άνθρωποι. 86 00:07:37,999 --> 00:07:40,376 Πρώιμα συστήματα ρομποτικής ήταν τηλεχειριζόμενα. 87 00:07:40,460 --> 00:07:45,173 Υπάρχει ένας άνθρωπος που το οδηγεί, το κατευθύνει, σαν ένα τηλεκατευθυνόμενο αυτοκίνητο. 88 00:07:46,632 --> 00:07:51,512 Πρώτα ξεκίνησαν γενικά καταδίωξη αυτοσχέδιων εκρηκτικών μηχανισμών, 89 00:07:52,013 --> 00:07:54,849 και αν η βόμβα εξερράγη, το ρομπότ θα ανατιναζόταν. 90 00:07:57,393 --> 00:08:00,396 Έπειτα θα έλεγες, «Αυτό είναι κακό. Εντάξει, φύγε το άλλο ρομπότ». 91 00:08:02,273 --> 00:08:05,067 Στο Αφγανιστάν, είχατε το drone Predator, 92 00:08:05,151 --> 00:08:09,739 και έγινε ένα πολύ, πολύ χρήσιμο εργαλείο να διεξάγουν αεροπορικές επιδρομές. 93 00:08:13,117 --> 00:08:16,829 Με την πάροδο του χρόνου, στρατιωτικοί σχεδιαστές άρχισε να αναρωτιέται, 94 00:08:16,913 --> 00:08:20,791 «Τι άλλο θα μπορούσαν να χρησιμοποιηθούν τα ρομπότ;» Και πού πήγαινε αυτό; 95 00:08:20,875 --> 00:08:24,170 Και ένα από τα κοινά θέματα ήταν αυτή η τάση προς μεγαλύτερη αυτονομία. 96 00:08:26,506 --> 00:08:30,635 Ένα αυτόνομο όπλο είναι αυτός που παίρνει αποφάσεις μόνος του, 97 00:08:30,718 --> 00:08:33,304 με ελάχιστη έως καθόλου ανθρώπινη παρέμβαση. 98 00:08:33,387 --> 00:08:37,558 Άρα έχει μια ανεξάρτητη χωρητικότητα, και είναι αυτοκατευθυνόμενο. 99 00:08:38,434 --> 00:08:41,604 Και αν μπορεί να σκοτώσει εξαρτάται από το αν είναι οπλισμένο ή όχι. 100 00:08:43,314 --> 00:08:47,026 Όταν έχεις όλο και περισσότερη αυτονομία σε ολόκληρο το σύστημά σας, 101 00:08:47,109 --> 00:08:49,779 όλα αρχίζουν να κινούνται σε υψηλότερη ταχύτητα ρολογιού. 102 00:08:51,989 --> 00:08:56,869 Και όταν λειτουργείτε με ταχύτερο ρυθμό από τους αντιπάλους σας, 103 00:08:57,453 --> 00:09:01,165 αυτό είναι ένα εξαιρετικό μεγάλο πλεονέκτημα στη μάχη. 104 00:09:03,960 --> 00:09:06,254 Αυτό στο οποίο εστιάζουμε καθώς σχετίζεται στην αυτονομία 105 00:09:07,255 --> 00:09:09,882 είναι εξαιρετικά ανθεκτικά συστήματα νοημοσύνης. 106 00:09:12,051 --> 00:09:15,304 Συστήματα που μπορούν να διαβάζουν και να αντιδρούν με βάση το περιβάλλον τους, 107 00:09:15,805 --> 00:09:19,642 και πάρτε αποφάσεις για το πώς να ελιχθείς σε αυτόν τον κόσμο. 108 00:09:24,981 --> 00:09:29,151 Η εγκατάσταση στην οποία βρισκόμαστε σήμερα χτίστηκε αρχικά ως κινηματογραφικό στούντιο 109 00:09:29,235 --> 00:09:30,611 που μετατράπηκε 110 00:09:30,695 --> 00:09:34,156 για να καταστεί δυνατή αυτή η ρεαλιστική στρατιωτικά περιβάλλοντα εκπαίδευσης. 111 00:09:39,495 --> 00:09:43,291 Είμαστε εδώ για να αξιολογήσουμε τον πιλότο AI μας. 112 00:09:44,625 --> 00:09:49,297 Η αποστολή αναζητά απειλές. Πρόκειται για δυνάμεις εκκαθάρισης. 113 00:09:49,380 --> 00:09:52,800 Μπορεί να πάρει μια απόφαση για το πώς να επιτεθείτε σε αυτό το πρόβλημα. 114 00:09:55,428 --> 00:09:59,390 Αυτό το ονομάζουμε «το μοιραίο χωνί». Πρέπει να περάσετε από μια πόρτα. 115 00:10:01,726 --> 00:10:03,311 Εκεί είμαστε πιο ευάλωτοι. 116 00:10:03,811 --> 00:10:05,146 Αυτό φαίνεται καλύτερα. 117 00:10:07,106 --> 00:10:10,151 Η Nova μας ενημερώνει, υπάρχει κάποιος πυροβολητής πίσω από αυτή την πόρτα, 118 00:10:10,818 --> 00:10:12,653 υπάρχει οικογένεια πίσω από αυτή την πόρτα; 119 00:10:15,114 --> 00:10:18,451 Θα μας επιτρέψει να πάρουμε καλύτερες αποφάσεις και κρατήστε τους ανθρώπους μακριά από βλάβες. 120 00:10:57,114 --> 00:10:59,367 Χρησιμοποιούμε αισθητήρες όρασης 121 00:10:59,450 --> 00:11:03,162 για να μπορέσουμε να κατανοήσουμε για το πώς μοιάζει το περιβάλλον. 122 00:11:04,997 --> 00:11:06,415 Είναι ένα πολυώροφο κτίριο. 123 00:11:07,333 --> 00:11:08,334 Εδώ είναι ο χάρτης. 124 00:11:08,417 --> 00:11:11,671 Ενώ εξερευνούσα, ορίστε τι είδα και πού τα είδα. 125 00:11:19,929 --> 00:11:22,098 Ανιχνευτής προσώπων. Αυτό είναι γλυκό. 126 00:11:23,891 --> 00:11:27,436 Ένας από τους άλλους αισθητήρες Το ενσωματωμένο Nova είναι ένας θερμικός σαρωτής. 127 00:11:27,520 --> 00:11:30,690 Αν αυτό είναι 98,6 μοίρες, μάλλον είναι άνθρωπος. 128 00:11:32,358 --> 00:11:35,444 Οι άνθρωποι θεωρούνται απειλές μέχρι να κριθεί διαφορετικά. 129 00:11:38,906 --> 00:11:43,244 Πρόκειται για την εξάλειψη της ομίχλης του πολέμου να πάρει καλύτερες αποφάσεις. 130 00:11:44,704 --> 00:11:46,539 Και όταν κοιτάμε το μέλλον, 131 00:11:47,039 --> 00:11:50,710 κλιμακώνουμε για να φτιάξουμε ομάδες των αυτόνομων αεροσκαφών. 132 00:11:53,754 --> 00:11:55,631 Με αυτοοδηγούμενα οχήματα, 133 00:11:55,715 --> 00:11:57,466 τελικά το άτομο το είπε, 134 00:11:57,550 --> 00:12:00,386 «Θα ήθελα να φύγεις από το σημείο Α στο σημείο Β». 135 00:12:02,972 --> 00:12:06,475 Τα συστήματά μας ζητούνται να μην πάει από το σημείο Α στο σημείο Β, 136 00:12:06,559 --> 00:12:08,477 αλλά για την επίτευξη ενός στόχου. 137 00:12:10,312 --> 00:12:13,190 Μοιάζει περισσότερο με το «Χρειάζομαι γάλα». 138 00:12:13,274 --> 00:12:17,486 Και τότε το ρομπότ θα έπρεπε βρείτε σε ποιο μπακάλικο να πάτε, 139 00:12:17,570 --> 00:12:20,239 να είναι σε θέση να ανακτήσει αυτό το γάλα, και μετά φέρε το πίσω. 140 00:12:20,740 --> 00:12:22,074 Και ακόμη περισσότερο, 141 00:12:22,158 --> 00:12:27,037 μπορεί να δηλωθεί καταλληλότερα ως: «Διατηρήστε το ψυγείο εφοδιασμένο». 142 00:12:27,538 --> 00:12:29,457 Και έτσι, αυτό είναι ένα επίπεδο νοημοσύνης 143 00:12:29,540 --> 00:12:32,168 όσον αφορά το να καταλάβουμε τι χρειαζόμαστε και πώς το κάνουμε. 144 00:12:32,251 --> 00:12:34,253 Και αν υπάρχει μια πρόκληση ή ένα πρόβλημα, 145 00:12:34,336 --> 00:12:37,381 ή προκύψει ένα θέμα, βρείτε πώς να το μετριαστείτε. 146 00:12:40,801 --> 00:12:45,431 Όταν είχα πάρει την απόφαση να φύγω από το Ναυτικό, άρχισα να σκέφτομαι, 147 00:12:45,514 --> 00:12:47,558 "Εντάξει, τι ακολουθεί;" 148 00:12:49,143 --> 00:12:52,021 Μεγάλωσα με το Διαδίκτυο. Είδα τι έγινε. 149 00:12:53,189 --> 00:12:55,608 Και μέρος του συμπεράσματος που έφτασα ήταν... 150 00:12:56,108 --> 00:12:58,861 AI το 2015 151 00:12:58,944 --> 00:13:02,907 ήταν πραγματικά εκεί που βρισκόταν το Διαδίκτυο το 1991. 152 00:13:04,033 --> 00:13:06,285 Και η τεχνητή νοημοσύνη ήταν έτοιμη να απογειωθεί 153 00:13:06,368 --> 00:13:09,747 και να είσαι ένας από τους περισσότερους ισχυρές τεχνολογίες στον κόσμο. 154 00:13:11,791 --> 00:13:16,212 Δουλεύοντας με αυτό κάθε μέρα, Μπορώ να δω την πρόοδο που σημειώνεται. 155 00:13:19,048 --> 00:13:22,051 Αλλά για πολλούς ανθρώπους, όταν σκέφτονται "AI", 156 00:13:22,551 --> 00:13:25,221 Το μυαλό τους πάει αμέσως στο Χόλιγουντ. 157 00:13:28,057 --> 00:13:29,975 Θα παίξουμε ένα παιχνίδι; 158 00:13:30,059 --> 00:13:35,314 Τι θα λέγατε για τον Παγκόσμιο Θερμοπυρηνικό Πόλεμο; 159 00:13:35,898 --> 00:13:36,816 Ωραία. 160 00:13:38,317 --> 00:13:40,861 Όταν οι άνθρωποι σκέφτονται της τεχνητής νοημοσύνης γενικά, 161 00:13:40,945 --> 00:13:44,824 μπορεί να σκεφτούν τον The Terminator. Ή Εγώ, Ρομπότ. 162 00:13:45,574 --> 00:13:46,700 Απενεργοποίηση. 163 00:13:46,784 --> 00:13:48,160 Τι είμαι; 164 00:13:48,244 --> 00:13:49,620 Ή The Matrix. 165 00:13:51,080 --> 00:13:53,749 Με βάση αυτό που βλέπετε στις ταινίες επιστημονικής φαντασίας, 166 00:13:53,833 --> 00:13:57,878 πώς ξέρεις ότι είμαι άνθρωπος; Θα μπορούσα απλώς να είμαι τεχνητής νοημοσύνης που δημιουργείται από υπολογιστή. 167 00:13:58,379 --> 00:14:02,132 Τα replicants είναι όπως κάθε άλλο μηχάνημα. Είναι είτε όφελος είτε κίνδυνος. 168 00:14:02,675 --> 00:14:06,095 Αλλά υπάρχουν όλα τα είδη πιο πρωτόγονων AI, 169 00:14:06,178 --> 00:14:08,097 που θα αλλάξουν ακόμα τη ζωή μας 170 00:14:08,180 --> 00:14:11,851 πολύ πριν φτάσουμε το στάδιο του ρομπότ που σκέφτεται, που μιλάει. 171 00:14:12,643 --> 00:14:15,771 Τα ρομπότ είναι εδώ. Τα ρομπότ παίρνουν αποφάσεις. 172 00:14:15,855 --> 00:14:18,816 Η επανάσταση των ρομπότ έφτασε, 173 00:14:18,899 --> 00:14:22,319 απλά δεν μοιάζει αυτό που φανταζόταν κανείς. 174 00:14:23,320 --> 00:14:25,489 Εξολοθρευτής μια μονάδα διείσδυσης. 175 00:14:25,573 --> 00:14:26,740 Part man, part machine. 176 00:14:27,950 --> 00:14:31,370 Δεν μιλάμε για ένα ρομπότ δολοφόνος τύπου Terminator. 177 00:14:31,871 --> 00:14:35,958 Μιλάμε για AI που μπορεί να κάνει κάποιες εργασίες που μπορούν να κάνουν οι άνθρωποι. 178 00:14:36,041 --> 00:14:39,879 Αλλά η ανησυχία είναι εάν αυτά τα συστήματα είναι αξιόπιστα. 179 00:14:40,462 --> 00:14:45,426 Νέες λεπτομέρειες στο χθεσινό βράδυ ατύχημα με αυτοοδηγούμενο SUV Uber. 180 00:14:45,509 --> 00:14:48,762 Η εταιρεία δημιούργησε ένα chatbot τεχνητής νοημοσύνης. 181 00:14:48,846 --> 00:14:51,181 Πήρε έναν μάλλον ρατσιστικό τόνο... 182 00:14:51,265 --> 00:14:55,394 Είκοσι έξι νομοθέτες πολιτειών ψευδώς αναγνωρίστηκαν ως εγκληματίες. 183 00:14:57,438 --> 00:15:02,026 Το ερώτημα είναι αν μπορούν να αντέξουν την πολυπλοκότητα του πραγματικού κόσμου. 184 00:15:22,212 --> 00:15:24,423 Ο φυσικός κόσμος είναι πραγματικά ακατάστατο. 185 00:15:25,174 --> 00:15:27,426 Υπάρχουν πολλά πράγματα που δεν ξέρουμε, 186 00:15:27,968 --> 00:15:30,763 καθιστώντας πολύ πιο δύσκολη την εκπαίδευση συστημάτων AI. 187 00:15:33,098 --> 00:15:36,977 Εκεί είναι τα συστήματα μηχανικής μάθησης έχουν αρχίσει να μπαίνουν. 188 00:15:38,520 --> 00:15:41,440 Μηχανική μάθηση υπήρξε τεράστια πρόοδος 189 00:15:42,024 --> 00:15:45,611 γιατί σημαίνει ότι δεν έχουμε να διδάξουν τα πάντα στους υπολογιστές. 190 00:15:47,905 --> 00:15:52,409 Στην πραγματικότητα δίνεις έναν υπολογιστή εκατομμύρια πληροφορίες, 191 00:15:52,493 --> 00:15:54,453 και η μηχανή αρχίζει να μαθαίνει. 192 00:15:55,245 --> 00:15:57,289 Και αυτό θα μπορούσε να εφαρμοστεί σε οτιδήποτε. 193 00:16:00,250 --> 00:16:02,962 Το έργο μας Robot Dog, προσπαθούμε να δείξουμε 194 00:16:03,045 --> 00:16:09,009 ότι ο σκύλος μας μπορεί να περπατήσει απέναντι πολλά, πολλά διαφορετικά εδάφη. 195 00:16:10,052 --> 00:16:14,098 Οι άνθρωποι έχουν εξελιχθεί πάνω από δισεκατομμύρια χρόνια να περπατήσει, 196 00:16:14,932 --> 00:16:20,688 αλλά υπάρχει πολλή ευφυΐα στην προσαρμογή σε αυτά τα διαφορετικά εδάφη. 197 00:16:21,939 --> 00:16:24,316 Το ερώτημα παραμένει για τα ρομποτικά συστήματα είναι, 198 00:16:24,400 --> 00:16:27,069 θα μπορούσαν επίσης να προσαρμοστούν όπως τα ζώα και οι άνθρωποι; 199 00:16:35,953 --> 00:16:37,413 Με τη μηχανική μάθηση, 200 00:16:37,496 --> 00:16:40,582 μαζεύουμε πολλά και πολλά δεδομένων σε προσομοίωση. 201 00:16:42,668 --> 00:16:45,838 Μια προσομοίωση είναι ένα ψηφιακό δίδυμο της πραγματικότητας. 202 00:16:46,588 --> 00:16:52,052 Μπορούμε να έχουμε πολλές περιπτώσεις αυτής της πραγματικότητας τρέχει σε διαφορετικούς υπολογιστές. 203 00:16:53,178 --> 00:16:56,974 Δείγματα χιλιάδων ενεργειών σε προσομοίωση. 204 00:16:58,892 --> 00:17:02,229 Το έδαφος που συναντούν έχει διαφορετική ολισθηρότητα. 205 00:17:02,312 --> 00:17:03,856 Έχει διαφορετική απαλότητα. 206 00:17:04,898 --> 00:17:08,318 Παίρνουμε όλη την εμπειρία από αυτά τα χιλιάδες ρομπότ 207 00:17:08,402 --> 00:17:13,282 από την προσομοίωση και κατεβάστε αυτό σε ένα πραγματικό ρομποτικό σύστημα. 208 00:17:15,492 --> 00:17:20,039 Το τεστ που θα κάνουμε σήμερα είναι να δούμε αν μπορεί να προσαρμοστεί σε νέα εδάφη. 209 00:17:53,322 --> 00:17:55,491 Όταν το ρομπότ περνούσε πάνω από αφρό, 210 00:17:55,574 --> 00:17:58,577 τις κινήσεις των ποδιών πατούσαν στο έδαφος. 211 00:17:59,369 --> 00:18:02,206 Σε αντίθεση με το όταν ήρθε σε αυτή την πολυ επιφάνεια, 212 00:18:03,248 --> 00:18:06,460 προσπαθούσε να προσαρμόσει την κίνηση, για να μην γλιστράει. 213 00:18:08,670 --> 00:18:10,672 Τότε είναι που σε χτυπάει, 214 00:18:10,756 --> 00:18:14,051 «Αυτό είναι η μηχανική μάθηση φέρνει στο τραπέζι». 215 00:18:41,161 --> 00:18:44,123 Νομίζουμε ότι ο σκύλος ρομπότ θα μπορούσε να είναι πραγματικά χρήσιμο 216 00:18:44,206 --> 00:18:46,166 σε σενάρια αντιμετώπισης καταστροφών 217 00:18:46,250 --> 00:18:49,670 όπου πρέπει να πλοηγηθείτε πολλά διαφορετικά είδη εδάφους. 218 00:18:52,631 --> 00:18:57,427 Ή βάζοντας αυτά τα σκυλιά να κάνουν επιτήρηση σε σκληρά περιβάλλοντα. 219 00:19:15,696 --> 00:19:19,575 Αλλά η περισσότερη τεχνολογία τρέχει στην πρόκληση 220 00:19:19,658 --> 00:19:22,369 ότι υπάρχει κάποιο καλό που μπορούν να κάνουν, και υπάρχει κάτι κακό. 221 00:19:24,079 --> 00:19:27,875 Για παράδειγμα, μπορούμε να χρησιμοποιήσουμε την πυρηνική τεχνολογία για ενέργεια... 222 00:19:30,419 --> 00:19:33,797 αλλά θα μπορούσαμε επίσης να αναπτύξουμε ατομικές βόμβες που είναι πραγματικά άσχημα. 223 00:19:35,090 --> 00:19:38,468 Αυτό είναι γνωστό ως πρόβλημα διπλής χρήσης. 224 00:19:39,052 --> 00:19:40,929 Η φωτιά είναι διπλής χρήσης. 225 00:19:41,722 --> 00:19:44,308 Η ανθρώπινη νοημοσύνη είναι διπλής χρήσης. 226 00:19:44,391 --> 00:19:48,645 Λοιπόν, περιττό να πούμε, Η τεχνητή νοημοσύνη είναι επίσης διπλής χρήσης. 227 00:19:49,354 --> 00:19:53,984 Είναι πραγματικά σημαντικό να σκεφτούμε την τεχνητή νοημοσύνη που χρησιμοποιείται στο πλαίσιο 228 00:19:54,693 --> 00:19:59,114 γιατί, ναι, είναι φοβερό να έχει ένα ρομπότ έρευνας και διάσωσης 229 00:19:59,198 --> 00:20:02,284 που μπορεί να βοηθήσει στον εντοπισμό κάποιου μετά από μια χιονοστιβάδα, 230 00:20:02,868 --> 00:20:05,871 αλλά το ίδιο ρομπότ μπορεί να οπλιστεί. 231 00:20:15,088 --> 00:20:18,675 Όταν βλέπεις εταιρείες χρησιμοποιώντας ρομποτική 232 00:20:18,759 --> 00:20:21,094 επειδή τους έβαλε οπλισμένα όπλα, 233 00:20:21,178 --> 00:20:22,930 ένα μέρος σου γίνεται τρελό. 234 00:20:23,931 --> 00:20:28,435 Και ένα μέρος του είναι η συνειδητοποίηση ότι όταν βάζουμε την τεχνολογία μας, 235 00:20:28,518 --> 00:20:30,103 αυτό πρόκειται να συμβεί. 236 00:20:31,021 --> 00:20:34,441 Αυτό είναι ένα πραγματικό μετασχηματιστική τεχνολογία. 237 00:20:36,235 --> 00:20:38,028 Αυτά είναι οπλικά συστήματα 238 00:20:38,111 --> 00:20:43,617 αυτό θα μπορούσε πραγματικά να αλλάξει την ασφάλεια και την ασφάλειά μας με δραματικό τρόπο. 239 00:20:46,161 --> 00:20:51,500 Προς το παρόν, δεν είμαστε σίγουροι που μπορούν πραγματικά να φτιάξουν οι μηχανές 240 00:20:51,583 --> 00:20:54,962 η διάκριση μεταξύ αμάχων και μαχητών. 241 00:21:01,802 --> 00:21:05,597 Στις αρχές του πολέμου στο Αφγανιστάν, Ήμουν μέλος μιας ομάδας ελεύθερου σκοπευτή του Army Ranger 242 00:21:05,681 --> 00:21:08,016 αναζητώντας εχθρικούς μαχητές έρχονται πέρα από τα σύνορα. 243 00:21:09,685 --> 00:21:12,521 Και έστειλαν ένα κοριτσάκι για να εντοπίσουμε τη θέση μας. 244 00:21:13,939 --> 00:21:17,067 Ένα πράγμα που δεν προέκυψε ποτέ ήταν η ιδέα να πυροβολήσω αυτό το κορίτσι. 245 00:21:19,695 --> 00:21:22,864 Σύμφωνα με τους νόμους του πολέμου, αυτό θα ήταν νόμιμο. 246 00:21:24,950 --> 00:21:27,369 Δεν βάζουν ηλικία για τους εχθρικούς μαχητές. 247 00:21:29,079 --> 00:21:33,417 Αν φτιάξατε ένα ρομπότ να συμμορφώνονται απόλυτα με τον νόμο του πολέμου, 248 00:21:33,500 --> 00:21:35,335 θα είχε πυροβολήσει αυτό το κοριτσάκι. 249 00:21:36,420 --> 00:21:41,091 Πώς θα γνώριζε ένα ρομπότ τη διαφορά μεταξύ τι είναι νόμιμο και τι είναι σωστό; 250 00:21:43,385 --> 00:21:46,054 Όταν πρόκειται για αυτόνομος πόλεμος με drone, 251 00:21:46,138 --> 00:21:49,933 θέλουν να απομακρύνουν το κακό που τοποθετεί σε Αμερικανούς στρατιώτες 252 00:21:50,017 --> 00:21:51,935 και η αμερικανική ψυχή, 253 00:21:52,019 --> 00:21:57,149 αλλά η αύξηση των ζημιών στους πολίτες καταλήγει στους Αφγανούς, 254 00:21:57,232 --> 00:21:58,775 και Ιρακινοί, και Σομαλοί. 255 00:22:09,619 --> 00:22:14,416 Θα ρωτήσω πραγματικά αυτούς που υποστηρίζουν εμπιστεύονται την τεχνητή νοημοσύνη για χρήση σε drones, 256 00:22:15,375 --> 00:22:18,211 «Κι αν ήταν το χωριό σου στο τέλος αυτού;» 257 00:22:23,550 --> 00:22:25,635 Το AI είναι ένα δίκοπο μαχαίρι. 258 00:22:26,595 --> 00:22:30,724 Μπορεί να χρησιμοποιηθεί για καλό, για το οποίο θα το χρησιμοποιούσαμε συνήθως, 259 00:22:31,558 --> 00:22:33,477 και με το πάτημα ενός διακόπτη, 260 00:22:34,561 --> 00:22:38,023 η τεχνολογία γίνεται δυνητικά κάτι που θα μπορούσε να είναι θανατηφόρο. 261 00:22:47,032 --> 00:22:48,533 Είμαι κλινικός φαρμακολόγος. 262 00:22:49,618 --> 00:22:50,994 Έχω μια ομάδα ανθρώπων 263 00:22:51,078 --> 00:22:54,247 που χρησιμοποιούν τεχνητή νοημοσύνη να καταλάβω τα ναρκωτικά 264 00:22:54,331 --> 00:22:57,751 που θα θεραπεύσει ασθένειες που δεν τραβούν την προσοχή. 265 00:22:59,711 --> 00:23:04,132 Κάποτε ήταν με ανακαλύψεις ναρκωτικών, θα έπαιρνες ένα μόριο που υπήρχε, 266 00:23:04,216 --> 00:23:06,885 και κάνε μια τσιμπιά σε αυτό για να φτάσω σε ένα νέο φάρμακο. 267 00:23:08,261 --> 00:23:13,350 Και τώρα έχουμε αναπτύξει AI που μπορεί να μας τροφοδοτήσει με εκατομμύρια ιδέες, 268 00:23:13,892 --> 00:23:15,227 εκατομμύρια μόρια, 269 00:23:16,186 --> 00:23:19,231 και αυτό ανοίγει τόσες πολλές δυνατότητες 270 00:23:19,314 --> 00:23:23,151 για τη θεραπεία ασθενειών ποτέ δεν μπορέσαμε να θεραπεύσουμε στο παρελθόν. 271 00:23:25,153 --> 00:23:28,448 Αλλά σίγουρα υπάρχει μια σκοτεινή πλευρά που δεν έχω σκεφτεί ποτέ 272 00:23:28,532 --> 00:23:29,741 που θα πήγαινα. 273 00:23:33,161 --> 00:23:35,872 Ξεκίνησε όλο αυτό όταν ήμουν καλεσμένος 274 00:23:35,956 --> 00:23:40,043 από οργανισμό εκτός Ελβετίας ονομάζεται Εργαστήριο Spiez 275 00:23:40,544 --> 00:23:44,423 να κάνει μια παρουσίαση σχετικά με την πιθανή κακή χρήση της τεχνητής νοημοσύνης. 276 00:23:48,343 --> 00:23:51,221 Ο Σον μόλις μου έστειλε ένα email με μερικές ιδέες 277 00:23:51,304 --> 00:23:55,308 με κάποιους τρόπους που θα μπορούσαμε να χρησιμοποιήσουμε κακώς τη δική μας τεχνητή νοημοσύνη. 278 00:23:56,059 --> 00:24:00,355 Και αντί να ρωτήσουμε το μοντέλο μας για τη δημιουργία μορίων που μοιάζουν με φάρμακα, 279 00:24:00,439 --> 00:24:02,274 που θα μπορούσε να χρησιμοποιηθεί για τη θεραπεία ασθενειών, 280 00:24:02,774 --> 00:24:06,403 ας δούμε αν μπορούμε να δημιουργήσουμε όσο το δυνατόν πιο τοξικά μόρια. 281 00:24:10,198 --> 00:24:13,243 Ήθελα να πω την ουσία, θα μπορούσαμε να χρησιμοποιήσουμε τεχνολογία AI 282 00:24:13,326 --> 00:24:15,203 να σχεδιάσει μόρια που ήταν θανατηφόρα; 283 00:24:17,414 --> 00:24:20,083 Και για να είμαι ειλικρινής, πιστεύαμε ότι θα αποτύγχανε 284 00:24:20,167 --> 00:24:24,504 γιατί το μόνο που κάναμε πραγματικά γυρνούσε αυτό το μηδέν σε ένα. 285 00:24:26,715 --> 00:24:30,385 Και αναστρέφοντάς το, αντί να απομακρύνουμε την τοξικότητα, 286 00:24:30,469 --> 00:24:32,220 τώρα οδηγούμαστε προς την τοξικότητα. 287 00:24:32,721 --> 00:24:33,555 Και αυτό είναι όλο. 288 00:24:37,517 --> 00:24:40,729 Όσο ήμουν σπίτι, ο υπολογιστής έκανε τη δουλειά. 289 00:24:41,521 --> 00:24:44,816 Θέλω να πω, τρελάθηκε, δημιουργώντας χιλιάδες μόρια, 290 00:24:45,650 --> 00:24:49,529 και δεν χρειάστηκε να κάνουμε τίποτα εκτός από το να πιέσετε το «πήγαινε». 291 00:24:54,493 --> 00:24:58,330 Το επόμενο πρωί, υπήρχε αυτό το αρχείο στον υπολογιστή μου, 292 00:24:59,080 --> 00:25:03,376 και μέσα σε αυτό ήταν περίπου 40.000 μόρια 293 00:25:03,460 --> 00:25:05,253 που ήταν δυνητικά 294 00:25:05,337 --> 00:25:08,882 μερικά από τα πιο τοξικά μόρια γνωστό στην ανθρωπότητα. 295 00:25:10,217 --> 00:25:12,761 Οι τρίχες στο πίσω μέρος του λαιμού μου στάθηκε όρθιος. 296 00:25:13,386 --> 00:25:14,554 έμεινα έκπληκτος. 297 00:25:15,388 --> 00:25:19,017 Ο υπολογιστής έφτιαξε δεκάδες χιλιάδες ιδέες 298 00:25:19,100 --> 00:25:20,685 για νέα χημικά όπλα. 299 00:25:21,645 --> 00:25:26,274 Προφανώς, έχουμε μόρια που μοιάζουν και είναι ανάλογα VX και VX 300 00:25:26,775 --> 00:25:27,775 στο σύνολο δεδομένων. 301 00:25:28,360 --> 00:25:31,363 Το VX είναι ένα από τα πιο ισχυρά χημικά όπλα στον κόσμο. 302 00:25:31,863 --> 00:25:33,573 Νέες αξιώσεις από την αστυνομία 303 00:25:33,657 --> 00:25:37,786 ότι οι γυναίκες είδαν να επιτίθενται στον Κιμ Γιονγκ Ναμ σε αυτή τη δολοφονία στο αεροδρόμιο 304 00:25:37,869 --> 00:25:41,248 χρησιμοποιούσαν έναν θανατηφόρο νευρικό παράγοντα που ονομάζεται VX. 305 00:25:41,748 --> 00:25:44,417 Μπορεί να προκαλέσει θάνατο μέσω ασφυξίας. 306 00:25:45,043 --> 00:25:47,629 Αυτό είναι ένα πολύ ισχυρό μόριο, 307 00:25:47,712 --> 00:25:52,092 και τα περισσότερα από αυτά τα μόρια είχαν προβλεφθεί να είναι ακόμα πιο θανατηφόρο από το VX. 308 00:25:53,301 --> 00:25:56,972 Πολλοί από αυτούς δεν είχαν ποτέ, απ' όσο γνωρίζουμε, έχει δει στο παρελθόν. 309 00:25:57,472 --> 00:26:00,767 Και έτσι, όταν ο Σον και εγώ το καταλάβαμε αυτό, είμαστε σαν, 310 00:26:00,850 --> 00:26:02,727 «Α, τι κάναμε;» 311 00:26:04,771 --> 00:26:09,192 Γρήγορα κατάλαβα ότι είχαμε ανοίξει το κουτί της Πανδώρας, 312 00:26:09,901 --> 00:26:12,696 και είπα: «Σταμάτα. Μην κάνεις τίποτα άλλο. Τελειώσαμε». 313 00:26:13,905 --> 00:26:17,158 «Απλά φτιάξε μου τις διαφάνειες που χρειάζομαι για την παρουσίαση». 314 00:26:19,202 --> 00:26:20,704 Όταν κάναμε αυτό το πείραμα, 315 00:26:20,787 --> 00:26:23,873 Σκεφτόμουν, «Ποιο είναι το χειρότερο πράγμα αυτό θα μπορούσε να συμβεί;» 316 00:26:26,251 --> 00:26:30,255 Αλλά τώρα λέω, «Ήμασταν αφελείς. Ήμασταν εντελώς αφελείς όταν το κάναμε». 317 00:26:33,466 --> 00:26:36,928 Αυτό που με τρομάζει περισσότερο είναι ότι ο καθένας μπορούσε να κάνει αυτό που κάναμε εμείς. 318 00:26:38,930 --> 00:26:40,765 Το μόνο που χρειάζεται είναι το πάτημα ενός διακόπτη. 319 00:26:42,934 --> 00:26:46,187 Πώς ελέγχουμε αυτή η τεχνολογία πριν χρησιμοποιηθεί 320 00:26:46,271 --> 00:26:50,942 δυνητικά να κάνει κάτι αυτό είναι εντελώς καταστροφικό; 321 00:26:55,780 --> 00:27:00,285 Στο επίκεντρο της συζήτησης γύρω από την τεχνητή νοημοσύνη 322 00:27:00,368 --> 00:27:03,538 και πώς επιλέγουμε να το χρησιμοποιήσουμε στην κοινωνία 323 00:27:04,289 --> 00:27:08,835 είναι μια κούρσα μεταξύ της εξουσίας, με τις οποίες αναπτύσσουμε τεχνολογίες, 324 00:27:08,918 --> 00:27:11,379 και τη σοφία που έχουμε για να το κυβερνήσουμε. 325 00:27:13,340 --> 00:27:16,926 Υπάρχουν τα αυτονόητα ηθικές και ηθικές προεκτάσεις 326 00:27:17,010 --> 00:27:20,138 του ίδιου πράγματος που τροφοδοτεί τα smartphone μας 327 00:27:20,221 --> 00:27:23,433 που ανατίθεται με την ηθική απόφαση να αφαιρέσει μια ζωή. 328 00:27:25,727 --> 00:27:31,191 Συνεργάζομαι με το Future Of Life Institute, μια κοινότητα ακτιβιστών επιστημόνων. 329 00:27:31,733 --> 00:27:33,443 Συνολικά προσπαθούμε να δείξουμε 330 00:27:33,526 --> 00:27:38,698 ότι υπάρχει αυτή η άλλη πλευρά για την επιτάχυνση και την κλιμάκωση του αυτοματισμού. 331 00:27:38,782 --> 00:27:42,619 Αλλά προσπαθούμε να βεβαιωθούμε τις τεχνολογίες που δημιουργούμε 332 00:27:42,702 --> 00:27:45,038 χρησιμοποιούνται κατά κάποιο τρόπο αυτό είναι ασφαλές και ηθικό. 333 00:27:46,247 --> 00:27:49,959 Ας κάνουμε κουβέντες σχετικά με τους κανόνες εμπλοκής, 334 00:27:50,043 --> 00:27:54,005 και κώδικες δεοντολογίας κατά τη χρήση της τεχνητής νοημοσύνης σε όλα τα οπλικά μας συστήματα. 335 00:27:54,798 --> 00:27:59,135 Γιατί τώρα βλέπουμε τεχνολογίες «μπείτε στο πεδίο της μάχης». 336 00:27:59,219 --> 00:28:01,680 που μπορεί να χρησιμοποιηθεί για να σκοτώσει αυτόνομα. 337 00:28:10,230 --> 00:28:15,110 Το 2021, ο ΟΗΕ κυκλοφόρησε έκθεση σχετικά με την πιθανή χρήση 338 00:28:15,193 --> 00:28:19,364 ενός φονικού αυτόνομου όπλου στο πεδίο της μάχης στη Λιβύη. 339 00:28:20,073 --> 00:28:23,910 Μια επιτροπή του ΟΗΕ είπε ότι ένα drone πετώντας στον εμφύλιο πόλεμο της Λιβύης πέρυσι 340 00:28:23,993 --> 00:28:27,288 είχε προγραμματιστεί να επιτίθεται σε στόχους αυτόνομα. 341 00:28:28,289 --> 00:28:31,209 Εάν η αναφορά του ΟΗΕ είναι ακριβής, 342 00:28:31,292 --> 00:28:34,963 αυτό θα ήταν μια στιγμή ορόσημο για την ανθρωπότητα. 343 00:28:35,046 --> 00:28:37,090 Γιατί σηματοδοτεί περίπτωση χρήσης 344 00:28:37,173 --> 00:28:42,137 όπου ένα AI πήρε την απόφαση να αφαιρέσει μια ζωή και όχι έναν άνθρωπο. 345 00:28:49,686 --> 00:28:51,688 Βλέπεις προχωρημένο αυτόνομα όπλα 346 00:28:51,771 --> 00:28:55,150 αρχίζει να χρησιμοποιείται σε διάφορα μέρη σε όλο τον κόσμο. 347 00:28:56,276 --> 00:28:58,278 Υπήρχαν αναφορές από το Ισραήλ. 348 00:29:00,280 --> 00:29:05,702 Το Αζερμπαϊτζάν χρησιμοποιούσε αυτόνομα συστήματα να στοχεύσει την αρμενική αεράμυνα. 349 00:29:07,370 --> 00:29:09,998 Μπορεί να πετάξει τριγύρω το πεδίο της μάχης για ώρες, 350 00:29:10,081 --> 00:29:12,500 ψάχνω να βρω τα πράγματα από μόνα τους, 351 00:29:12,584 --> 00:29:16,087 και μετά οργώστε μέσα τους χωρίς κανενός είδους ανθρώπινη παρέμβαση. 352 00:29:16,755 --> 00:29:18,298 Και είδαμε πρόσφατα 353 00:29:18,381 --> 00:29:21,760 αυτά τα διαφορετικά βίντεο που έχουν αναρτηθεί στην Ουκρανία. 354 00:29:23,094 --> 00:29:26,890 Δεν είναι ξεκάθαρο σε ποια λειτουργία θα μπορούσαν ήταν μέσα όταν λειτουργούσαν. 355 00:29:26,973 --> 00:29:30,393 Ήταν ένας άνθρωπος στη θηλιά, επιλέγοντας ποιους στόχους θα επιτεθούν, 356 00:29:30,477 --> 00:29:32,729 ή το μηχάνημα το έκανε από μόνο του; 357 00:29:32,812 --> 00:29:36,524 Αλλά σίγουρα θα υπάρξει έλα σε μια στιγμή, 358 00:29:36,608 --> 00:29:40,195 είτε έχει ήδη συμβεί στη Λιβύη, Ουκρανία ή αλλού, 359 00:29:40,278 --> 00:29:44,449 όπου μια μηχανή παίρνει τη δική της απόφαση για το ποιον να σκοτώσει στο πεδίο της μάχης. 360 00:29:47,035 --> 00:29:50,997 Μηχανές που ασκούνται θανατηφόρα δύναμη κατά των ανθρώπων 361 00:29:51,080 --> 00:29:53,374 χωρίς ανθρώπινη παρέμβαση 362 00:29:53,458 --> 00:29:57,337 είναι πολιτικά απαράδεκτο, ηθικά αποκρουστικό. 363 00:29:59,130 --> 00:30:01,299 Είτε η διεθνής κοινότητα 364 00:30:01,382 --> 00:30:05,011 θα είναι επαρκής να κυβερνήσει αυτές τις προκλήσεις 365 00:30:05,094 --> 00:30:06,888 είναι μεγάλο ερωτηματικό. 366 00:30:08,932 --> 00:30:12,685 Αν κοιτάξουμε προς το μέλλον, ακόμα και σε λίγα χρόνια από τώρα, 367 00:30:12,769 --> 00:30:15,730 πώς μοιάζει το τοπίο είναι πολύ τρομακτικό, 368 00:30:16,564 --> 00:30:20,485 δεδομένου ότι το ποσό κεφαλαίου και ανθρώπινου δυναμικού 369 00:30:20,568 --> 00:30:23,404 να κάνει την τεχνητή νοημοσύνη πιο ισχυρή 370 00:30:23,488 --> 00:30:26,032 και χρησιμοποιώντας το για όλες αυτές τις διαφορετικές εφαρμογές, 371 00:30:26,115 --> 00:30:26,950 είναι απέραντο. 372 00:30:39,254 --> 00:30:41,214 Θεέ μου, αυτός ο τύπος. 373 00:30:41,756 --> 00:30:43,424 Ξέρει ότι δεν μπορεί να κερδίσει. 374 00:30:44,259 --> 00:30:46,678 Ω... 375 00:30:46,761 --> 00:30:51,099 Όταν βλέπω το AI να κερδίζει σε διαφορετικά προβλήματα, Το βρίσκω εμπνευσμένο. 376 00:30:51,683 --> 00:30:53,977 Πηγαίνουμε για μια μικρή δράση Hail Mary. 377 00:30:54,477 --> 00:30:59,524 Και μπορείτε να εφαρμόσετε αυτές τις ίδιες τακτικές, τεχνικές, διαδικασίες σε πραγματικά αεροσκάφη. 378 00:31:01,401 --> 00:31:04,404 - Καλό παιχνίδι. - Εντάξει, καλό παιχνίδι. 379 00:31:08,658 --> 00:31:09,909 Είναι έκπληξη για μένα 380 00:31:09,993 --> 00:31:14,122 ότι ο κόσμος συνεχίζει να κάνει δηλώσεις για το τι δεν μπορεί να κάνει η τεχνητή νοημοσύνη. Δικαίωμα; 381 00:31:14,205 --> 00:31:17,166 «Ω, δεν θα μπορέσει ποτέ να κερδίσω έναν παγκόσμιο πρωταθλητή στο σκάκι». 382 00:31:20,211 --> 00:31:22,672 Ένας υπολογιστής IBM έχει επιστρέψει 383 00:31:22,755 --> 00:31:25,925 στο παιχνίδι 2 του αγώνα του με τον παγκόσμιο πρωταθλητή στο σκάκι, Garry Kasparov. 384 00:31:27,093 --> 00:31:30,889 Ουάου! Ο Κασπάροφ παραιτήθηκε! 385 00:31:31,598 --> 00:31:34,642 Όταν βλέπω κάτι αυτό είναι πολύ πέρα από την κατανόησή μου, 386 00:31:34,726 --> 00:31:38,062 φοβάμαι. Και αυτό ήταν κάτι πολύ πέρα από την κατανόησή μου. 387 00:31:39,355 --> 00:31:41,107 Και τότε οι άνθρωποι θα έλεγαν, 388 00:31:41,190 --> 00:31:44,402 «Δεν θα μπορέσει ποτέ να νικήσει παγκόσμιος πρωταθλητής στο παιχνίδι του Go». 389 00:31:44,485 --> 00:31:50,700 Πιστεύω στην ανθρώπινη διαίσθηση είναι ακόμα πολύ προχωρημένο για A.I. 390 00:31:50,783 --> 00:31:52,827 να έχει προλάβει. 391 00:31:55,288 --> 00:31:58,416 Το Go είναι ένα από τα πιο περίπλοκα παιχνίδια που μπορεί να μάθει ο καθένας 392 00:31:58,499 --> 00:32:02,211 επειδή ο αριθμός των κινήσεων στον πίνακα, όταν κάνεις τα μαθηματικά, 393 00:32:02,295 --> 00:32:05,256 ίσα περισσότερα άτομα από ό,τι υπάρχουν σε ολόκληρο το σύμπαν. 394 00:32:06,799 --> 00:32:08,968 Υπήρχε μια ομάδα στη Google που ονομάζεται DeepMind, 395 00:32:09,052 --> 00:32:11,471 και δημιούργησαν ένα πρόγραμμα που ονομάζεται AlphaGo 396 00:32:11,554 --> 00:32:14,265 να μπορεί να νικήσει οι καλύτεροι παίκτες του κόσμου. 397 00:32:14,349 --> 00:32:16,476 Εκπληκτική επιτυχία. 398 00:32:16,559 --> 00:32:18,394 Συγχαρητήρια στον... 399 00:32:18,478 --> 00:32:19,478 - AlphaGo. - AlphaGo. 400 00:32:19,520 --> 00:32:22,774 Ένα πρόγραμμα υπολογιστή μόλις κέρδισε έναν επαγγελματία 9 νταν. 401 00:32:25,610 --> 00:32:31,532 Στη συνέχεια, η DeepMind επέλεξε το StarCraft ως την επόμενη πρόκληση AI τους. 402 00:32:33,743 --> 00:32:38,081 Το StarCraft είναι ίσως το πιο δημοφιλές παιχνίδι στρατηγικής σε πραγματικό χρόνο όλων των εποχών. 403 00:32:40,333 --> 00:32:44,712 Το AlphaStar έγινε διάσημο όταν άρχισε να νικάει παγκόσμιους πρωταθλητές. 404 00:32:45,338 --> 00:32:48,800 AlphaStar απολύτως συντριβή Immortal Arc. 405 00:32:48,883 --> 00:32:49,717 Ξέρεις τι; 406 00:32:49,801 --> 00:32:52,553 Δεν θα είναι αγώνας ότι οι επαγγελματίες μπορούν να κερδίσουν. 407 00:32:53,680 --> 00:32:54,806 Είναι κάπως γελοίο. 408 00:32:57,642 --> 00:33:00,895 Οι επαγγελματίες παίκτες λένε, «Δεν θα δοκίμαζα ποτέ αυτή την τακτική». 409 00:33:00,979 --> 00:33:04,816 «Δεν θα δοκίμαζα ποτέ αυτή τη στρατηγική. Αυτό είναι κάτι που δεν είναι ανθρώπινο». 410 00:33:07,151 --> 00:33:10,655 Και αυτό ήταν ίσως, ξέρετε, η στιγμή "α-χα" για μένα. 411 00:33:13,574 --> 00:33:16,661 Συνειδητοποίησα ότι ήρθε η ώρα. 412 00:33:17,412 --> 00:33:21,082 Υπάρχει μια σημαντική τεχνολογία και μια ευκαιρία να κάνεις τη διαφορά. 413 00:33:24,502 --> 00:33:29,382 Ήξερα μόνο τα προβλήματα που είχα αντιμετωπίσει ως SEAL σε κλειστή μάχη, 414 00:33:30,383 --> 00:33:34,470 αλλά ένας από τους καλούς μου φίλους, που ήταν πιλότος F-18, μου είπε, 415 00:33:34,554 --> 00:33:37,724 «Έχουμε το ίδιο πρόβλημα στην κοινότητα των μαχητικών αεροσκαφών». 416 00:33:37,807 --> 00:33:39,434 «Μπλοκάρουν τις επικοινωνίες». 417 00:33:39,517 --> 00:33:42,562 «Υπάρχουν πολλαπλασιασμένοι εγκαταστάσεις πυραύλων εδάφους-αέρος 418 00:33:42,645 --> 00:33:44,439 που το καθιστούν πολύ επικίνδυνο να λειτουργήσει». 419 00:33:47,483 --> 00:33:50,987 Φανταστείτε να είχαμε ένα μαχητικό αεροσκάφος που διοικήθηκε από AI. 420 00:33:51,070 --> 00:33:52,739 Καλώς ήρθατε στους AlphaDogfights. 421 00:33:52,822 --> 00:33:56,159 Είμαστε μερικά λεπτά μακριά από αυτόν τον πρώτο ημιτελικό. 422 00:33:56,242 --> 00:33:59,871 DARPA, η Άμυνα Οργανισμός Προηγμένων Ερευνητικών Έργων, 423 00:33:59,954 --> 00:34:03,624 είχε δει το AlphaGo και το AlphaStar, 424 00:34:04,292 --> 00:34:08,171 και έτσι αυτή η ιδέα του AlphaDogfight ο ανταγωνισμός ήρθε στη ζωή. 425 00:34:09,005 --> 00:34:11,466 Αυτό θέλεις να δεις οι πιλότοι των μαχητικών σας το κάνουν. 426 00:34:11,549 --> 00:34:13,634 Αυτό μοιάζει ανθρώπινη κυνομαχία. 427 00:34:15,595 --> 00:34:19,057 Η κυνομαχία είναι μαχητικό σε μαχητικό αεροσκάφος που πηγαίνει σε αυτό. 428 00:34:19,849 --> 00:34:22,852 Μπορείτε να το σκεφτείτε σαν αγώνας μποξ στον ουρανό. 429 00:34:23,853 --> 00:34:26,314 Ίσως ο κόσμος να έχει δει την ταινία Top Gun. 430 00:34:26,397 --> 00:34:30,068 - Μπορούμε να ξεπεράσουμε αυτούς τους τύπους; - Όχι τους πυραύλους και τα όπλα τους. 431 00:34:30,151 --> 00:34:31,277 Είναι κυνομαχία. 432 00:34:35,531 --> 00:34:39,410 Μαθαίνοντας να κυριαρχείς στις κυνομαχίες μπορεί να διαρκέσει οκτώ έως δέκα χρόνια. 433 00:34:42,288 --> 00:34:46,209 Είναι μια εξαιρετικά περίπλοκη πρόκληση για να δημιουργήσετε AI γύρω. 434 00:34:54,092 --> 00:34:58,679 Οι προηγούμενες προσεγγίσεις της αυτονομίας και οι κυνομαχίες έτειναν να είναι εύθραυστες. 435 00:34:59,222 --> 00:35:03,017 Καταλάβαμε ότι η μηχανική μάθηση ήταν πιθανώς ο τρόπος επίλυσης αυτού του προβλήματος. 436 00:35:04,477 --> 00:35:08,189 Στην αρχή, το AI δεν ήξερε τίποτα για τον κόσμο στον οποίο έπεσε. 437 00:35:08,272 --> 00:35:11,025 Δεν ήξερε ότι πετούσε ή τι ήταν η κυνομαχία. 438 00:35:11,109 --> 00:35:12,735 Δεν ήξερε τι είναι ένα F-16. 439 00:35:13,236 --> 00:35:15,988 Όλα όσα ήξερε ήταν οι διαθέσιμες ενέργειες που θα μπορούσε να κάνει, 440 00:35:16,072 --> 00:35:18,407 και θα ξεκινούσε για να εξερευνήσετε τυχαία αυτές τις ενέργειες. 441 00:35:19,325 --> 00:35:23,204 Το μπλε αεροπλάνο έκανε εκπαίδευση μόνο για ένα μικρό χρονικό διάστημα. 442 00:35:23,287 --> 00:35:25,832 Μπορείτε να το δείτε να ταλαντεύεται μπρος-πίσω, 443 00:35:25,915 --> 00:35:30,545 πετώντας πολύ ακανόνιστα, γενικά μακριά από τον αντίπαλό του. 444 00:35:31,587 --> 00:35:34,257 Καθώς ο αγώνας εξελίσσεται, μπορούμε να δούμε το μπλε αρχίζει 445 00:35:34,340 --> 00:35:36,134 να καθιερώσει εδώ το παιχνίδι του. 446 00:35:36,759 --> 00:35:38,636 Είναι περισσότερο σε θέση σουτ. 447 00:35:39,178 --> 00:35:41,305 Μια στο τόσο, ο αλγόριθμος μάθησης είπε, 448 00:35:41,389 --> 00:35:43,891 «Εδώ είναι ένα μπισκότο. Συνέχισε να κάνεις περισσότερα από αυτό». 449 00:35:45,143 --> 00:35:49,147 Μπορούμε να εκμεταλλευτούμε την ισχύ του υπολογιστή και εκπαιδεύστε τους πράκτορες πολλές φορές 450 00:35:49,230 --> 00:35:50,230 παράλληλα. 451 00:35:51,357 --> 00:35:52,775 Είναι σαν ομάδα μπάσκετ. 452 00:35:53,276 --> 00:35:55,778 Αντί να παίζει με την ίδια ομάδα ξανά και ξανά, 453 00:35:55,862 --> 00:35:59,198 ταξιδεύεις σε όλο τον κόσμο παίζοντας 512 διαφορετικές ομάδες, 454 00:35:59,699 --> 00:36:00,950 όλα ταυτόχρονα. 455 00:36:01,492 --> 00:36:03,452 Μπορείτε να φτάσετε πολύ καλά, πολύ γρήγορα. 456 00:36:04,162 --> 00:36:07,456 Μπορέσαμε να εκτελέσουμε αυτήν την προσομοίωση 24/7 457 00:36:07,540 --> 00:36:11,919 και να πάρει κάτι σαν 30 χρόνια χρόνου εκπαίδευσης πιλότων σε, σε 10 μήνες. 458 00:36:12,920 --> 00:36:15,673 Πήγαμε από το να μην μπορούσαμε για τον έλεγχο του αεροσκάφους 459 00:36:15,756 --> 00:36:17,717 να είναι ένας πέτρινος δολοφόνος. 460 00:36:19,010 --> 00:36:23,514 Στην προπόνηση, αγωνιζόμασταν μόνο ενάντια σε άλλη τεχνητή νοημοσύνη. 461 00:36:24,473 --> 00:36:28,561 Αλλά ανταγωνίζονται άμεσα τους ανθρώπους ήταν κάπως ο απόλυτος στόχος. 462 00:36:34,192 --> 00:36:35,610 Με λένε Μάικ Μπενίτεθ, 463 00:36:36,110 --> 00:36:38,362 Είμαι Αντισυνταγματάρχης στην Πολεμική Αεροπορία των ΗΠΑ. 464 00:36:39,155 --> 00:36:41,157 Βρίσκεται στην ενεργό δράση για περίπου 25 χρόνια. 465 00:36:42,825 --> 00:36:44,869 Έχω 250 αποστολές μάχης 466 00:36:45,578 --> 00:36:47,538 και είμαι απόφοιτος σχολής όπλων, 467 00:36:48,039 --> 00:36:49,832 που είναι η έκδοση της Πολεμικής Αεροπορίας του Top Gun. 468 00:36:52,627 --> 00:36:55,171 Ποτέ δεν έχω πετάξει κατά της τεχνητής νοημοσύνης. 469 00:36:55,254 --> 00:36:58,549 Οπότε είμαι αρκετά ενθουσιασμένος για να δω πόσο καλά μπορώ. 470 00:36:59,634 --> 00:37:03,054 Τώρα έχουμε 6.000 πόδια προσβλητικό στημένο μύτη με μύτη. 471 00:37:04,388 --> 00:37:05,223 Ο αγώνας συνεχίζεται. 472 00:37:13,314 --> 00:37:14,314 Έχει φύγει τώρα. 473 00:37:14,732 --> 00:37:16,651 Ναι, αυτό είναι πραγματικά πολύ ενδιαφέρον. 474 00:37:20,780 --> 00:37:23,658 Νεκρός. Τον πήρε. Άψογη νίκη. 475 00:37:25,910 --> 00:37:27,453 Εντάξει, γύρος δεύτερος. 476 00:37:35,461 --> 00:37:40,466 Τι κάνει η τεχνητή νοημοσύνη κάνει ελιγμούς με τόση ακρίβεια, 477 00:37:40,967 --> 00:37:43,219 Α, δεν μπορώ να το παρακολουθήσω. 478 00:37:48,474 --> 00:37:49,725 Ακριβώς στη συγχώνευση. 479 00:37:50,309 --> 00:37:51,894 Α, τώρα έφυγες. 480 00:37:53,145 --> 00:37:53,980 Τον κατάλαβα! 481 00:37:54,063 --> 00:37:55,063 Ακόμα με πήρε. 482 00:37:58,567 --> 00:38:00,069 Το AI δεν φοβάται ποτέ. 483 00:38:00,736 --> 00:38:03,781 Υπάρχει ένα ανθρώπινο συναισθηματικό στοιχείο στο πιλοτήριο δεν θα υπάρχει AI. 484 00:38:04,991 --> 00:38:08,077 Μια από τις πιο ενδιαφέρουσες στρατηγικές Το AI μας αναπτύχθηκε, 485 00:38:08,160 --> 00:38:10,121 ήταν αυτό που λέμε πυροβολισμός προσώπου. 486 00:38:10,621 --> 00:38:14,000 Συνήθως ένας άνθρωπος θέλει να πυροβολήσει από πίσω 487 00:38:14,083 --> 00:38:16,377 γιατί τους είναι δύσκολο να σε ταρακουνήσει. 488 00:38:17,044 --> 00:38:20,381 Δεν δοκιμάζουν λήψεις προσώπου γιατί παίζεις κοτόπουλο. 489 00:38:21,424 --> 00:38:25,511 Όταν ερχόμαστε κατά μέτωπο, 3.000 πόδια μακριά έως 500 πόδια μακριά 490 00:38:25,594 --> 00:38:27,096 μπορεί να συμβεί εν ριπή οφθαλμού. 491 00:38:27,596 --> 00:38:31,183 Διατρέχετε υψηλό κίνδυνο σύγκρουσης, για να μην το δοκιμάσουν οι άνθρωποι. 492 00:38:32,893 --> 00:38:35,938 Η τεχνητή νοημοσύνη, εκτός και αν της λένε να φοβάται τον θάνατο, δεν θα φοβάται τον θάνατο. 493 00:38:37,106 --> 00:38:40,693 Όλα καλά. Αισθάνεται σαν Πολεμώ ενάντια σε έναν άνθρωπο, 494 00:38:40,776 --> 00:38:44,113 ένας άνθρωπος που έχει μια απερίσκεπτη εγκατάλειψη για ασφάλεια. 495 00:38:45,489 --> 00:38:47,325 Δεν θα επιβιώσει από αυτό το τελευταίο. 496 00:38:57,168 --> 00:38:58,461 Δεν του φτάνει ο χρόνος. 497 00:39:00,629 --> 00:39:01,629 Αχ! 498 00:39:01,964 --> 00:39:02,965 Καληνύχτα. 499 00:39:04,091 --> 00:39:05,091 Είμαι νεκρός. 500 00:39:16,812 --> 00:39:17,980 Είναι ταπεινό να ξέρεις 501 00:39:18,064 --> 00:39:20,983 που μπορεί να μην είμαι καν το καλύτερο πράγμα για αυτή την αποστολή, 502 00:39:21,484 --> 00:39:24,320 και αυτό το πράγμα μπορεί να είναι κάτι που με αντικαθιστά μια μέρα. 503 00:39:25,696 --> 00:39:26,989 Το ίδιο 6 CAV. 504 00:39:27,615 --> 00:39:28,866 Χίλιος συμψηφισμός. 505 00:39:29,367 --> 00:39:32,078 Με αυτόν τον πιλότο AI διοικεί μαχητικά αεροσκάφη, 506 00:39:32,828 --> 00:39:34,830 η νίκη είναι αδυσώπητη, είναι κυρίαρχη. 507 00:39:34,914 --> 00:39:37,249 Δεν είναι μόνο η νίκη με μεγάλη γκάμα. 508 00:39:37,333 --> 00:39:41,545 Είναι, «Εντάξει, πώς μπορούμε να το πετύχουμε αυτό στο αεροσκάφος μας;» Είναι τόσο δυνατό. 509 00:39:43,672 --> 00:39:47,802 Είναι ρεαλιστικό να περιμένει κανείς ότι η AI θα πιλοτάρει ένα F-16, 510 00:39:47,885 --> 00:39:49,970 και δεν θα είναι τόσο μακριά. 511 00:39:51,305 --> 00:39:56,769 Αν πας απέναντι ένας πιλότος AI που έχει ποσοστό κερδών 99,99999%, 512 00:39:56,852 --> 00:39:58,062 δεν έχεις ευκαιρία. 513 00:39:59,605 --> 00:40:02,733 Όταν σκέφτομαι ένας πιλότος τεχνητής νοημοσύνης είναι ασυναγώνιστος, 514 00:40:02,817 --> 00:40:06,779 Σκέφτομαι τι ομάδα 50 ή 100, 515 00:40:07,279 --> 00:40:12,535 ή 1.000 πιλότοι AI μπορεί να συνεχίσει να επιτυγχάνει. 516 00:40:13,702 --> 00:40:17,415 Το σμήνος είναι μια ομάδα αεροσκαφών υψηλής ευφυΐας 517 00:40:17,498 --> 00:40:18,791 που συνεργάζονται μεταξύ τους. 518 00:40:19,291 --> 00:40:23,462 Μοιράζονται πληροφορίες για τι να κάνετε, πώς να λύσετε ένα πρόβλημα. 519 00:40:25,172 --> 00:40:30,469 Το σμήνος θα αλλάξει το παιχνίδι και μετασχηματιστική ικανότητα 520 00:40:30,553 --> 00:40:32,638 στον στρατό και στους συμμάχους μας. 521 00:41:42,750 --> 00:41:47,379 Ο στόχος έχει αποκτηθεί, και τα drones τον παρακολουθούν. 522 00:42:01,936 --> 00:42:03,604 Εδώ έρχεται η γη. 523 00:42:07,566 --> 00:42:10,402 Πρωταρχικός στόχος της έρευνας για το σμήνος που εργαζόμαστε 524 00:42:11,153 --> 00:42:13,697 είναι η ανάπτυξη μεγάλου αριθμού drones 525 00:42:13,781 --> 00:42:17,910 σε μια περιοχή που είναι δύσκολο να φτάσετε ή επικίνδυνο να φτάσετε. 526 00:42:21,705 --> 00:42:26,085 Το Εργαστήριο Ερευνών Στρατού υποστήριξε το συγκεκριμένο ερευνητικό έργο. 527 00:42:26,919 --> 00:42:28,963 Εάν θέλετε να μάθετε τι υπάρχει σε μια τοποθεσία, 528 00:42:29,046 --> 00:42:32,883 αλλά είναι δύσκολο να φτάσεις σε αυτή την περιοχή, ή είναι πολύ μεγάλη περιοχή, 529 00:42:33,676 --> 00:42:35,886 στη συνέχεια αναπτύσσοντας ένα σμήνος είναι ένας πολύ φυσικός τρόπος 530 00:42:35,970 --> 00:42:38,389 να επεκτείνει την εμβέλεια των ατόμων 531 00:42:38,472 --> 00:42:41,934 και συλλέγουν πληροφορίες αυτό είναι κρίσιμο για την αποστολή. 532 00:42:46,689 --> 00:42:48,983 Έτσι, αυτή τη στιγμή στην ανάπτυξή μας στο σμήνος, 533 00:42:49,066 --> 00:42:53,988 ουσιαστικά δίνουμε μία μόνο εντολή για να παρακολουθήσετε τον στόχο ενδιαφέροντος. 534 00:42:54,488 --> 00:42:57,283 Μετά φεύγουν τα drones και να τα κάνουν όλα αυτά μόνοι τους. 535 00:42:59,493 --> 00:43:04,081 Η τεχνητή νοημοσύνη επιτρέπει τα ρομπότ να κινούνται συλλογικά ως σμήνος 536 00:43:04,164 --> 00:43:05,708 με αποκεντρωμένο τρόπο. 537 00:43:10,671 --> 00:43:12,506 Στα σμήνη στη φύση που βλέπουμε, 538 00:43:13,299 --> 00:43:18,178 δεν υπάρχει αφεντικό, κανένα κύριο ζώο δεν τους λέει τι να κάνουν. 539 00:43:20,556 --> 00:43:25,019 Η συμπεριφορά αναδεικνύεται από κάθε ζώο ξεχωριστά 540 00:43:25,102 --> 00:43:27,104 ακολουθώντας μερικούς απλούς κανόνες. 541 00:43:27,688 --> 00:43:32,443 Και από αυτό αναπτύσσεται αυτό το αναδυόμενο συλλογική συμπεριφορά που βλέπετε. 542 00:43:33,944 --> 00:43:37,031 Τι προκαλεί δέος σχετικά με τα σμήνη στη φύση 543 00:43:37,114 --> 00:43:39,992 είναι η χαριτωμένη ικανότητα στο οποίο κινούνται. 544 00:43:40,576 --> 00:43:44,288 Λες και χτίστηκαν να είναι μέρος αυτής της ομάδας. 545 00:43:46,790 --> 00:43:51,128 Στην ιδανική περίπτωση, αυτό που θα θέλαμε να δούμε με το σμήνος drone μας είναι, 546 00:43:51,211 --> 00:43:53,172 σαν στο σμήνος στη φύση, 547 00:43:53,672 --> 00:43:56,717 αποφάσεις που λαμβάνονται από την ομάδα συλλογικά. 548 00:43:59,928 --> 00:44:02,765 Το άλλο κομμάτι έμπνευσης για εμάς 549 00:44:02,848 --> 00:44:06,268 έρχεται στη μορφή αξιοπιστίας και ανθεκτικότητας. 550 00:44:07,311 --> 00:44:09,188 Αυτό το σμήνος δεν θα κατέβει 551 00:44:09,271 --> 00:44:13,567 εάν ένα μεμονωμένο ζώο δεν κάνει αυτό που πρέπει να κάνει. 552 00:44:15,194 --> 00:44:18,697 Ακόμα κι αν ένας από τους πράκτορες πέσει έξω, ή αποτυγχάνει, 553 00:44:18,781 --> 00:44:20,866 ή δεν είναι σε θέση να ολοκληρώσει την εργασία, 554 00:44:21,909 --> 00:44:23,369 το σμήνος θα συνεχιστεί. 555 00:44:25,204 --> 00:44:27,873 Και τελικά, αυτό θα θέλαμε να έχουμε. 556 00:44:29,333 --> 00:44:33,879 Έχουμε αυτή την ανάγκη σε σενάρια μάχης για την αναγνώριση εχθρικών αεροσκαφών, 557 00:44:33,962 --> 00:44:37,841 και κάποτε χρειαζόμασταν ένα άτομο που ελέγχει ένα ρομπότ. 558 00:44:38,592 --> 00:44:40,552 Καθώς αυξάνεται η αυτονομία, 559 00:44:40,636 --> 00:44:43,555 Ελπίζω να προλάβουμε να δούμε μεγάλο αριθμό ρομπότ 560 00:44:43,639 --> 00:44:46,558 ελέγχεται από πολύ μικρό αριθμό ατόμων. 561 00:44:47,851 --> 00:44:50,854 Δεν βλέπω κανένα λόγο να μην τα καταφέρουμε χίλια τελικά 562 00:44:51,355 --> 00:44:54,942 γιατί κάθε πράκτορας θα μπορεί να ενεργεί από μόνη της, 563 00:44:55,025 --> 00:44:56,443 και ο ουρανός είναι το όριο. 564 00:44:57,027 --> 00:44:59,071 Μπορούμε να κλιμακώσουμε τη μάθησή μας... 565 00:44:59,154 --> 00:45:03,325 Δουλεύαμε πάνω στο σμήνος σε προσομοίωση για αρκετό καιρό, 566 00:45:03,409 --> 00:45:06,829 και ήρθε η ώρα να φέρεις αυτό σε αεροσκάφη του πραγματικού κόσμου. 567 00:45:07,454 --> 00:45:12,042 Αναμένουμε να κάνουμε τρία ρομπότ ταυτόχρονα μέσω του δικτύου, 568 00:45:12,126 --> 00:45:15,129 και μετά ξεκινώντας για να προσθέσετε όλο και περισσότερες δυνατότητες. 569 00:45:15,879 --> 00:45:18,549 Θέλουμε να μπορούμε για να το δοκιμάσετε σε μικρότερα συστήματα, 570 00:45:18,632 --> 00:45:22,261 αλλά πάρτε τις ίδιες έννοιες και να τα εφαρμόσετε σε μεγαλύτερα συστήματα, 571 00:45:22,344 --> 00:45:23,679 σαν μαχητικό αεροσκάφος. 572 00:45:24,513 --> 00:45:26,014 Μιλάμε πολύ για, 573 00:45:26,098 --> 00:45:31,937 πώς δίνεις διμοιρία τη μαχητική δύναμη ενός τάγματος; 574 00:45:34,982 --> 00:45:39,528 Ή ένα τάγμα η μαχητική δύναμη μιας ταξιαρχίας; 575 00:45:39,611 --> 00:45:41,488 Μπορείτε να το κάνετε αυτό με σμήνη. 576 00:45:42,614 --> 00:45:45,200 Και όταν μπορείτε να ξεκλειδώσετε αυτή η δύναμη του σμήνος, 577 00:45:45,284 --> 00:45:48,078 μόλις δημιουργήσατε μια νέα στρατηγική αποτροπή 578 00:45:48,162 --> 00:45:49,455 στη στρατιωτική επίθεση. 579 00:45:52,332 --> 00:45:57,004 Νομίζω ότι το πιο συναρπαστικό είναι ο αριθμός των νέων ανδρών και γυναικών 580 00:45:57,087 --> 00:46:00,299 ποιον θα σώσουμε αν το κάνουμε πραγματικά σωστά. 581 00:46:01,091 --> 00:46:03,594 Και εμπορευόμαστε μηχανές 582 00:46:04,553 --> 00:46:05,846 παρά ανθρώπινες ζωές. 583 00:46:06,638 --> 00:46:10,893 Κάποιοι υποστηρίζουν ότι τα αυτόνομα όπλα θα κάνει τον πόλεμο πιο ακριβή 584 00:46:10,976 --> 00:46:12,311 και πιο ανθρώπινο, 585 00:46:12,853 --> 00:46:15,397 αλλά στην πραγματικότητα είναι δύσκολο να προβλεφθεί 586 00:46:15,481 --> 00:46:19,443 πώς ακριβώς αυτόνομα όπλα μπορεί να αλλάξει τον πόλεμο εκ των προτέρων. 587 00:46:21,320 --> 00:46:23,238 Είναι σαν την εφεύρεση του όπλου Gatling. 588 00:46:25,073 --> 00:46:26,700 Ο Ρίτσαρντ Γκάτλινγκ ήταν εφευρέτης, 589 00:46:27,201 --> 00:46:30,954 και είδε στρατιώτες να επιστρέφουν, τραυματίες στον Εμφύλιο Πόλεμο, 590 00:46:32,289 --> 00:46:35,292 και ήθελε να βρει τρόπους για να γίνει ο πόλεμος πιο ανθρώπινος. 591 00:46:36,293 --> 00:46:39,797 Να μειωθεί ο αριθμός των στρατιωτών που σκοτώθηκαν στον πόλεμο 592 00:46:40,422 --> 00:46:42,633 με τη μείωση του αριθμού των στρατιωτών στη μάχη. 593 00:46:44,092 --> 00:46:48,388 Και έτσι εφηύρε το όπλο Gatling, ένα αυτοματοποιημένο όπλο που περιστρέφεται από μια μανιβέλα 594 00:46:48,472 --> 00:46:50,516 που θα μπορούσε να αυτοματοποιήσει τη διαδικασία πυροδότησης. 595 00:46:53,268 --> 00:46:57,981 Αυξήθηκε ουσιαστικά κατά εκατονταπλάσια τη δύναμη πυρός που μπορούσαν να προσφέρουν οι στρατιώτες. 596 00:47:01,235 --> 00:47:05,239 Συχνά, προσπάθειες να γίνει πόλεμος πιο ακριβές και ανθρώπινο... 597 00:47:06,532 --> 00:47:07,991 ...μπορεί να έχει το αντίθετο αποτέλεσμα. 598 00:47:10,160 --> 00:47:13,455 Σκεφτείτε το αποτέλεσμα μιας λανθασμένης επίθεσης drone 599 00:47:13,539 --> 00:47:14,540 σε αγροτική περιοχή 600 00:47:14,623 --> 00:47:17,209 που οδηγεί τον τοπικό πληθυσμό εναντίον των Ηνωμένων Πολιτειών, 601 00:47:17,292 --> 00:47:20,712 κατά της τοπικής αυτοδιοίκησης. Ξέρεις, υποτίθεται τα καλά παιδιά. 602 00:47:22,589 --> 00:47:25,008 Τώρα μεγεθύνετε το κατά 1.000. 603 00:47:26,718 --> 00:47:28,720 Η δημιουργία οπλικού συστήματος 604 00:47:28,804 --> 00:47:34,560 που είναι φθηνό, επεκτάσιμο, και δεν απαιτεί ανθρώπινους χειριστές 605 00:47:34,643 --> 00:47:37,896 αλλάζει δραστικά τα πραγματικά εμπόδια στη σύγκρουση. 606 00:47:40,107 --> 00:47:44,486 Με κρατάει ξύπνιο το βράδυ για να σκεφτώ ενός κόσμου όπου ο πόλεμος είναι πανταχού παρών, 607 00:47:44,987 --> 00:47:48,657 και δεν κουβαλάμε πια το ανθρώπινο και οικονομικό κόστος του πολέμου 608 00:47:48,740 --> 00:47:51,410 γιατί είμαστε πολύ μακριά από... 609 00:47:52,369 --> 00:47:54,037 τις ζωές που θα χαθούν. 610 00:47:59,459 --> 00:48:01,420 Με στοιχειώνει όλο αυτό. 611 00:48:02,212 --> 00:48:05,924 Χρειαζόμουν απλώς ένα παράδειγμα κατάχρησης τεχνητής νοημοσύνης. 612 00:48:06,800 --> 00:48:10,888 Οι απρόβλεπτες συνέπειες να κάνει αυτό το απλό πείραμα σκέψης 613 00:48:10,971 --> 00:48:12,848 έχουν πάει πολύ μακριά. 614 00:48:17,352 --> 00:48:18,729 Όταν έκανα την παρουσίαση 615 00:48:18,812 --> 00:48:22,107 στα τοξικά μόρια που δημιουργήθηκε από την τεχνολογία AI, 616 00:48:22,608 --> 00:48:24,318 τα σαγόνια του κοινού έπεσαν. 617 00:48:29,406 --> 00:48:33,660 Η επόμενη απόφαση ήταν αν πρέπει να δημοσιεύσουμε αυτές τις πληροφορίες. 618 00:48:34,912 --> 00:48:36,914 Από τη μια πλευρά, θέλετε να προειδοποιήσετε τον κόσμο 619 00:48:36,997 --> 00:48:40,125 αυτού του είδους οι δυνατότητες, αλλά από την άλλη, 620 00:48:40,208 --> 00:48:44,087 δεν θέλεις να δώσεις σε κάποιον την ιδέα αν δεν το είχαν ποτέ πριν. 621 00:48:46,381 --> 00:48:48,133 Αποφασίσαμε ότι αξίζει να το δημοσιεύσουμε 622 00:48:48,216 --> 00:48:52,679 για να βρούμε ίσως κάποιους τρόπους για τον μετριασμό της κακής χρήσης αυτού του τύπου AI 623 00:48:52,763 --> 00:48:54,139 πριν συμβεί. 624 00:49:01,897 --> 00:49:04,775 Η αντίδραση του κοινού ήταν συγκλονιστικό. 625 00:49:07,194 --> 00:49:10,656 Μπορούμε να δούμε τις μετρήσεις στη σελίδα, πόσοι άνθρωποι έχουν πρόσβαση σε αυτό. 626 00:49:10,739 --> 00:49:14,451 Τα είδη των άρθρων που γράφουμε συνήθως, είμαστε τυχεροί αν καταφέρουμε... 627 00:49:14,534 --> 00:49:19,831 Μερικές χιλιάδες άνθρωποι βλέπουν το άρθρο μας σε περίοδο ενός έτους ή πολλών ετών. 628 00:49:19,915 --> 00:49:22,084 Ήταν 10.000 άνθρωποι το είχε διαβάσει μέσα σε μια εβδομάδα. 629 00:49:22,167 --> 00:49:25,337 Τότε ήταν 20.000, τότε ήταν 30.000, μετά ήταν 40.000, 630 00:49:25,837 --> 00:49:28,715 και ήμασταν μέχρι και 10.000 άτομα την ημέρα. 631 00:49:30,258 --> 00:49:33,512 Έχουμε κάνει το The Economist, τους Financial Times. 632 00:49:35,639 --> 00:49:39,977 Το Radiolab, ξέρετε, άπλωσαν το χέρι. Όπως, έχω ακούσει για το Radiolab! 633 00:49:41,937 --> 00:49:45,899 Στη συνέχεια όμως οι αντιδράσεις στράφηκαν σε αυτό το πράγμα που είναι εκτός ελέγχου. 634 00:49:49,778 --> 00:49:53,532 Όταν κοιτάμε αυτά τα tweets, είναι σαν να «Θεέ μου, θα μπορούσαν να κάνουν κάτι χειρότερο;» 635 00:49:54,324 --> 00:49:55,993 Γιατί το έκαναν αυτό; 636 00:50:01,164 --> 00:50:04,501 Και μετά πήραμε μια πρόσκληση Δεν θα το περίμενα ποτέ. 637 00:50:08,797 --> 00:50:12,926 Έγινε πολλή συζήτηση εντός του Λευκού Οίκου σχετικά με το άρθρο, 638 00:50:13,010 --> 00:50:15,345 και ήθελαν να μας μιλήσουν επειγόντως. 639 00:50:18,849 --> 00:50:20,809 Προφανώς, είναι απίστευτη τιμή 640 00:50:20,892 --> 00:50:23,020 να μπορείς να μιλήσω με ανθρώπους σε αυτό το επίπεδο. 641 00:50:23,603 --> 00:50:25,272 Αλλά μετά σε χτυπάει 642 00:50:25,355 --> 00:50:28,900 όπως, "Ω Θεέ μου, είναι ο Λευκός Οίκος. Το αφεντικό». 643 00:50:29,693 --> 00:50:33,196 Αυτό περιλάμβανε τη συναρμολόγηση σύνολα δεδομένων που ήταν ανοιχτού κώδικα... 644 00:50:33,280 --> 00:50:37,701 Και σε περίπου έξι ώρες, το μοντέλο κατάφερε για να δημιουργήσετε περίπου πάνω από 40.000... 645 00:50:37,784 --> 00:50:41,038 Έκαναν ερωτήσεις για το πόση υπολογιστική ισχύ χρειαζόσουν, 646 00:50:41,872 --> 00:50:43,832 και τους είπαμε ότι δεν ήταν τίποτα το ιδιαίτερο. 647 00:50:44,332 --> 00:50:48,211 Κυριολεκτικά ένα τυπικό πρακτικό, εξάχρονος Μακ. 648 00:50:49,546 --> 00:50:51,256 Και αυτό τους έσκασε. 649 00:50:54,968 --> 00:50:59,473 Οι άνθρωποι που είναι υπεύθυνοι για την κατανόηση των παραγόντων χημικού πολέμου 650 00:50:59,556 --> 00:51:04,019 και κρατικούς φορείς, δεν είχαν ιδέα για αυτή τη δυνατότητα. 651 00:51:06,605 --> 00:51:09,816 Έχουμε αυτό το βιβλίο μαγειρικής να φτιάξουν αυτά τα χημικά όπλα, 652 00:51:10,650 --> 00:51:15,572 και στα χέρια ενός κακού ηθοποιού που έχει κακόβουλη πρόθεση 653 00:51:16,573 --> 00:51:18,992 θα μπορούσε να είναι εντελώς τρομακτικό. 654 00:51:21,703 --> 00:51:23,205 Οι άνθρωποι πρέπει να καθίσουν και να ακούσουν, 655 00:51:23,288 --> 00:51:26,458 και πρέπει να κάνουμε βήματα είτε να ρυθμίσει την τεχνολογία 656 00:51:27,250 --> 00:51:30,670 ή να το περιορίσουν κατά κάποιο τρόπο ότι δεν μπορεί να γίνει κατάχρηση. 657 00:51:31,880 --> 00:51:35,175 Επειδή η πιθανότητα θανατηφόρου... 658 00:51:36,176 --> 00:51:37,344 είναι τρομακτικό. 659 00:51:40,680 --> 00:51:45,977 Το ζήτημα της ηθικής της AI αντιμετωπίζεται σε μεγάλο βαθμό από την κοινωνία, 660 00:51:46,561 --> 00:51:50,273 όχι από μηχανικούς ή τεχνολόγους, οι μαθηματικοί. 661 00:51:52,526 --> 00:51:56,822 Κάθε τεχνολογία που παρουσιάζουμε, κάθε νέα καινοτομία, 662 00:51:56,905 --> 00:52:00,617 εμπίπτει τελικά στην αρμοδιότητα για το πώς η κοινωνία πιστεύει ότι πρέπει να το χρησιμοποιήσουμε. 663 00:52:03,036 --> 00:52:06,498 Αυτή τη στιγμή, το Υπουργείο Άμυνας λέει, 664 00:52:06,581 --> 00:52:09,960 «Το μόνο που λέει κάτι θα σκοτώσουμε 665 00:52:10,043 --> 00:52:11,920 στο πεδίο της μάχης είναι άνθρωπος». 666 00:52:12,504 --> 00:52:14,548 Μια μηχανή μπορεί να κάνει το φόνο, 667 00:52:15,674 --> 00:52:18,927 αλλά μόνο κατ' εντολήν ενός ανθρώπινου χειριστή, 668 00:52:19,636 --> 00:52:21,429 και δεν το βλέπω να αλλάζει ποτέ. 669 00:52:24,808 --> 00:52:28,103 Μας διαβεβαιώνουν ότι αυτός ο τύπος τεχνολογίας θα είναι ασφαλής. 670 00:52:29,729 --> 00:52:33,692 Αλλά ο στρατός των Ηνωμένων Πολιτειών απλά δεν έχει αξιόπιστη φήμη 671 00:52:33,775 --> 00:52:35,485 με πόλεμο drone. 672 00:52:36,820 --> 00:52:41,783 Και έτσι, όταν έρθει να εμπιστευτούν τον στρατό των ΗΠΑ με AI, 673 00:52:41,867 --> 00:52:45,036 Θα έλεγα, ξέρετε, το ιστορικό κάπως μιλάει από μόνο του. 674 00:52:46,288 --> 00:52:50,125 Η πολιτική του Υπουργείου Άμυνας των ΗΠΑ σχετικά με τη χρήση της αυτονομίας στα όπλα 675 00:52:50,208 --> 00:52:52,919 δεν απαγορεύει κανενός είδους οπλικό σύστημα. 676 00:52:53,003 --> 00:52:56,715 Και ακόμη κι αν στρατιωτικοί μπορεί να μην θέλει αυτόνομα όπλα, 677 00:52:56,798 --> 00:53:01,678 μπορούσαμε να δούμε στρατιωτικούς να παραδίδονται περισσότερες αποφάσεις για μηχανές 678 00:53:01,761 --> 00:53:03,680 μόνο για να συμβαδίζει με τους ανταγωνιστές. 679 00:53:04,764 --> 00:53:08,351 Και αυτό θα μπορούσε να οδηγήσει στρατιώτες για την αυτοματοποίηση των αποφάσεων 680 00:53:08,435 --> 00:53:09,978 ότι μπορεί να μην θέλουν. 681 00:53:12,022 --> 00:53:13,440 Ο Βλαντιμίρ Πούτιν είπε, 682 00:53:13,523 --> 00:53:16,693 «Όποιος ηγείται στο AI πρόκειται να κυβερνήσει τον κόσμο». 683 00:53:17,736 --> 00:53:23,325 Ο Πρόεδρος Xi έχει καταστήσει σαφές ότι η ΑΙ είναι μια από τις νούμερο ένα τεχνολογίες 684 00:53:23,408 --> 00:53:25,702 ότι η Κίνα θέλει να κυριαρχήσει. 685 00:53:26,786 --> 00:53:29,831 Είμαστε ξεκάθαρα σε έναν τεχνολογικό διαγωνισμό. 686 00:53:33,418 --> 00:53:35,670 Ακούς ανθρώπους να μιλάνε για τα προστατευτικά κιγκλιδώματα, 687 00:53:36,463 --> 00:53:39,424 και πιστεύω αυτό πρέπει να κάνουν οι άνθρωποι. 688 00:53:40,467 --> 00:53:45,180 Αλλά υπάρχει μια πολύ πραγματική κούρσα για την υπεροχή της τεχνητής νοημοσύνης. 689 00:53:47,265 --> 00:53:51,603 Και οι αντίπαλοί μας, είτε είναι η Κίνα, είτε είναι η Ρωσία, είτε το Ιράν, 690 00:53:52,187 --> 00:53:56,566 δεν πρόκειται να κάνουν δύο σκέψεις σε αυτό που λέει η πολιτική μας σχετικά με την τεχνητή νοημοσύνη. 691 00:54:00,820 --> 00:54:04,324 Βλέπεις πολλές περισσότερες συζητήσεις γύρω από την πολιτική AI, 692 00:54:06,117 --> 00:54:09,287 αλλά εύχομαι περισσότερους ηγέτες θα έκανε τη συζήτηση 693 00:54:09,371 --> 00:54:11,706 λέγοντας, «Τι γρήγορα μπορούμε να φτιάξουμε αυτό το πράγμα; 694 00:54:12,707 --> 00:54:15,168 Ας εξοικονομήσουμε πόρους και χτίστε το». 695 00:54:33,478 --> 00:54:38,358 Βρισκόμαστε στην Ένωση των Η.Π.Α. Η μεγαλύτερη εμπορική έκθεση του Στρατού της χρονιάς. 696 00:54:39,609 --> 00:54:44,572 Βασικά, κάθε πωλητής που πουλάει ένα προϊόν ή μια τεχνολογία σε έναν στρατό 697 00:54:44,656 --> 00:54:46,616 θα εκθέσουν. 698 00:54:47,659 --> 00:54:50,537 Η αεροπορική βάση Tyndall έχει τέσσερα από τα ρομπότ μας 699 00:54:50,620 --> 00:54:53,748 που περιπολούν τη βάση τους 24 ώρες την ημέρα, 7 ημέρες την εβδομάδα. 700 00:54:55,750 --> 00:55:00,130 Μπορούμε να προσθέσουμε τα πάντα από κάμερες σε αισθητήρες σε ό,τι χρειάζεστε. 701 00:55:00,213 --> 00:55:05,135 Βραχίονες χειριστή. Και πάλι, για να ολοκληρώσω την αποστολή που έχει στο μυαλό του ο πελάτης. 702 00:55:06,678 --> 00:55:08,638 Τι γίνεται αν ο εχθρός σας εισάγει AI; 703 00:55:09,431 --> 00:55:12,976 Ένα σύστημα μάχης που σκέφτεται πιο γρήγορα από εσάς, ανταποκρίνεται πιο γρήγορα, 704 00:55:13,059 --> 00:55:16,062 από αυτό που μπορεί να κάνει ένας άνθρωπος; Πρέπει να είμαστε προετοιμασμένοι. 705 00:55:17,605 --> 00:55:21,359 Εκπαιδεύουμε τα συστήματά μας να συλλέξει πληροφορίες για τον εχθρό, 706 00:55:22,027 --> 00:55:26,531 διαχείριση εχθρικών στόχων με ανθρώπους να επιβλέπουν την αλυσίδα θανάτωσης. 707 00:55:33,204 --> 00:55:34,956 - Γεια σου στρατηγέ. -Πως τα πας; 708 00:55:35,040 --> 00:55:37,208 Καλά, κύριε. Τι κάνετε; Εμ... 709 00:55:37,709 --> 00:55:40,962 Απλά θα πω κανείς δεν επενδύει περισσότερα σε έναν πιλότο AI. 710 00:55:41,046 --> 00:55:42,630 Ο πιλότος της τεχνητής νοημοσύνης μας ονομάζεται Hivemind, 711 00:55:43,298 --> 00:55:47,135 οπότε το εφαρμόσαμε στο τετρακόπτερο Nova μας. Μπαίνει μέσα σε κτίρια, 712 00:55:47,218 --> 00:55:49,387 τα εξερευνά μπροστά από τις δυνάμεις ειδικών επιχειρήσεων 713 00:55:49,471 --> 00:55:50,805 και δυνάμεις πεζικού. 714 00:55:50,889 --> 00:55:52,891 Εφαρμόζουμε το Hivemind στο V-BAT, 715 00:55:52,974 --> 00:55:56,811 έτσι σκέφτομαι, ξέρεις, ανεβάζοντας εκατοντάδες από αυτές τις ομάδες. 716 00:55:56,895 --> 00:55:58,646 Είτε πρόκειται για τα στενά της Ταϊβάν, 717 00:55:58,730 --> 00:56:01,608 είτε είναι στην Ουκρανία, αποτρέποντας τους αντιπάλους μας. 718 00:56:01,691 --> 00:56:03,360 Λοιπόν, πολύ ενθουσιασμένος γι 'αυτό. 719 00:56:03,943 --> 00:56:06,196 - Εντάξει. Σας ευχαριστώ. - Λοιπόν. Ευχαριστώ, Στρατηγέ. 720 00:56:07,989 --> 00:56:13,370 Οι πιλότοι τεχνητής νοημοσύνης θα πρέπει να είναι πανταχού παρόντες, και αυτό θα πρέπει να είναι μέχρι το 2025, το 2030. 721 00:56:14,204 --> 00:56:17,582 Η υιοθέτησή του θα είναι ταχεία σε όλους τους στρατούς σε όλο τον κόσμο. 722 00:56:19,250 --> 00:56:22,962 Τι κάνεις με τον ρουμανικό στρατό, ο τύπος τους UAS; 723 00:56:23,046 --> 00:56:24,756 Υψηλή τεχνολογία στον στρατό. 724 00:56:25,256 --> 00:56:29,803 Έχουμε ξοδέψει μισό δισεκατομμύριο δολάρια μέχρι σήμερα για την κατασκευή ενός πιλότου AI. 725 00:56:29,886 --> 00:56:34,015 Θα ξοδέψουμε άλλα δισεκατομμύρια δολάρια τα επόμενα πέντε χρόνια. Και αυτό είναι... 726 00:56:34,099 --> 00:56:37,769 Είναι ένας σημαντικός λόγος για τον οποίο κερδίζουμε τα προγράμματα ρεκόρ στις Η.Π.Α. 727 00:56:37,852 --> 00:56:38,853 Ωραίος. 728 00:56:38,937 --> 00:56:42,732 Θέλω να πω, είναι εντυπωσιακό. Καταφέρατε να το οπλίσετε. 729 00:56:43,608 --> 00:56:45,944 Ε, είναι... Αυτό δεν είναι ακόμη οπλισμένο. 730 00:56:46,027 --> 00:56:48,321 Οπότε όχι ακόμα. Αλλά ναι, στο μέλλον. 731 00:56:48,905 --> 00:56:52,534 Οι πελάτες μας το σκέφτονται σαν φορτηγό. Το σκεφτόμαστε ως ένα έξυπνο φορτηγό 732 00:56:52,617 --> 00:56:54,452 που μπορεί να κάνει πολλά διαφορετικά πράγματα. 733 00:56:54,536 --> 00:56:55,703 Ευχαριστώ φίλε. 734 00:56:55,787 --> 00:56:57,956 θα φροντίσω για να ακολουθήσω μαζί σας. 735 00:57:01,668 --> 00:57:04,129 Αν επιστρέψεις σε 10 χρόνια, 736 00:57:04,212 --> 00:57:06,256 θα το δεις... 737 00:57:06,339 --> 00:57:10,802 AI και αυτονομία θα έχει κυριαρχήσει σε όλη αυτή την αγορά. 738 00:57:14,889 --> 00:57:19,352 Δυνάμεις που υποστηρίζονται από την τεχνητή νοημοσύνη και την αυτονομία 739 00:57:19,436 --> 00:57:25,108 θα κυριαρχήσει απόλυτα, συντρίψει και καταστρέψει δυνάμεις χωρίς. 740 00:57:26,401 --> 00:57:30,780 Θα είναι το αντίστοιχο των αλόγων που ανεβαίνουν ενάντια σε τανκς, 741 00:57:31,781 --> 00:57:34,367 άνθρωποι με σπαθιά ανεβαίνοντας ενάντια στο πολυβόλο. 742 00:57:34,909 --> 00:57:37,120 Δεν θα είναι καν κοντά. 743 00:57:38,746 --> 00:57:42,750 Θα γίνει πανταχού παρόν, χρησιμοποιείται σε κάθε φάσμα πολέμου, 744 00:57:43,585 --> 00:57:44,836 το τακτικό επίπεδο, 745 00:57:45,336 --> 00:57:46,546 το στρατηγικό επίπεδο, 746 00:57:47,172 --> 00:57:50,800 λειτουργούν με ταχύτητες που οι άνθρωποι δεν μπορούν να κατανοήσουν σήμερα. 747 00:57:53,094 --> 00:57:57,098 Οι διοικητές έχουν ήδη κατακλυστεί με πάρα πολλές πληροφορίες. 748 00:57:57,599 --> 00:58:01,019 Εικόνες από δορυφόρους, και drones και αισθητήρες. 749 00:58:02,103 --> 00:58:03,396 Ένα από τα πράγματα που μπορεί να κάνει το AI 750 00:58:03,480 --> 00:58:06,774 είναι η βοήθεια ενός διοικητή κατανοήσουν πιο γρήγορα τι συμβαίνει. 751 00:58:07,650 --> 00:58:09,903 Και μετά, «Ποιες είναι οι αποφάσεις Πρέπει να φτιάξω;" 752 00:58:11,237 --> 00:58:14,866 Τεχνητή νοημοσύνη θα λάβει υπόψη όλους τους παράγοντες 753 00:58:14,949 --> 00:58:17,702 που καθορίζουν τον τρόπο με τον οποίο διεξάγεται ο πόλεμος, 754 00:58:18,286 --> 00:58:20,246 καταστρώστε στρατηγικές... 755 00:58:22,540 --> 00:58:25,668 και να δώσει συστάσεις για το πώς να κερδίσετε μια μάχη. 756 00:58:36,971 --> 00:58:40,266 Εμείς στη Lockheed Martin, όπως ο πελάτης του Υπουργείου Άμυνας, 757 00:58:40,350 --> 00:58:43,770 δείτε την τεχνητή νοημοσύνη ως βασικός τεχνολογικός παράγοντας 758 00:58:43,853 --> 00:58:45,104 για διοίκηση και έλεγχο. 759 00:58:47,065 --> 00:58:50,235 Ο ρυθμός εξάπλωσης έχει κατά μέσο όρο δύο πόδια ανά δευτερόλεπτο. 760 00:58:50,318 --> 00:58:52,695 Αυτή η περίμετρος είναι περίπου 700 στρέμματα. 761 00:58:52,779 --> 00:58:55,782 Η ομίχλη του πολέμου είναι μια πραγματικότητα για εμάς από την πλευρά της άμυνας, 762 00:58:57,158 --> 00:59:00,495 αλλά έχει παραλληλισμούς να είσαι στο περιβάλλον 763 00:59:00,578 --> 00:59:03,206 και πρέπει να πάρεις αποφάσεις και για τις πυρκαγιές. 764 00:59:03,289 --> 00:59:06,543 Η φωτιά του Washburn βρίσκεται ακριβώς βόρεια της πόλης Wawona. 765 00:59:06,626 --> 00:59:09,629 Πρέπει να πάρεις αποφάσεις με ατελή στοιχεία. 766 00:59:10,630 --> 00:59:14,300 Και πώς μπορούμε να μας βοηθήσει το AI με αυτή την ομίχλη του πολέμου; 767 00:59:17,637 --> 00:59:19,597 Οι πυρκαγιές είναι πολύ χαοτικές. 768 00:59:20,181 --> 00:59:21,266 Είναι πολύ σύνθετοι, 769 00:59:22,267 --> 00:59:26,354 και έτσι δουλεύουμε να αξιοποιήσει την τεχνητή νοημοσύνη 770 00:59:26,437 --> 00:59:27,855 να βοηθήσει στη λήψη αποφάσεων. 771 00:59:31,442 --> 00:59:33,987 Ο Διευθυντής Γνωστικής Αποστολής είναι ένα πρόγραμμα που χτίζουμε 772 00:59:34,070 --> 00:59:37,949 που τραβάει εναέριο υπέρυθρο βίντεο 773 00:59:38,032 --> 00:59:41,786 και στη συνέχεια το επεξεργάζεται μέσω των αλγορίθμων μας AI 774 00:59:41,869 --> 00:59:45,248 να είναι σε θέση να προβλέψει τη μελλοντική κατάσταση της πυρκαγιάς. 775 00:59:48,042 --> 00:59:49,794 Καθώς προχωράμε στο μέλλον, 776 00:59:49,877 --> 00:59:52,922 ο Διευθυντής Γνωστικής Αποστολής θα χρησιμοποιήσει προσομοίωση, 777 00:59:53,006 --> 00:59:57,093 τρέχοντα σενάρια σε χιλιάδες κύκλους, 778 00:59:57,176 --> 01:00:00,722 να προτείνουμε τον πιο αποτελεσματικό τρόπο για την ανάπτυξη πόρων 779 01:00:00,805 --> 01:00:04,058 για την καταστολή των περιοχών πυρκαγιάς υψηλής προτεραιότητας. 780 01:00:08,062 --> 01:00:12,400 Θα πει, «Πήγαινε να κάνεις μια κεραία καταστολή με ένα Firehawk εδώ». 781 01:00:13,568 --> 01:00:15,903 «Πάρτε συνεργεία εδάφους που έχουν καθαρή βούρτσα... 782 01:00:16,988 --> 01:00:19,032 ...πυροσβέστες που έχουν σωλήνωση, 783 01:00:19,657 --> 01:00:23,077 και να τα αναπτύξετε στους τομείς υψηλότερης προτεραιότητας». 784 01:00:26,289 --> 01:00:29,292 Αυτές οι αποφάσεις θα μπορεί να δημιουργηθεί πιο γρήγορα 785 01:00:29,375 --> 01:00:31,044 και πιο αποτελεσματικά. 786 01:00:35,840 --> 01:00:38,468 Βλέπουμε AI ως μοναδικά επιτρέποντας στους ανθρώπους μας 787 01:00:38,551 --> 01:00:42,305 να μπορείς να συμβαδίζεις με το διαρκώς μεταβαλλόμενο περιβάλλον. 788 01:00:43,514 --> 01:00:46,517 Και υπάρχουν έναν αξιόπιστο αριθμό παραλλήλων 789 01:00:46,601 --> 01:00:50,355 σε αυτό που έχουμε συνηθίσει στη Lockheed Martin στην πλευρά της άμυνας. 790 01:00:52,231 --> 01:00:55,860 Ο στρατός δεν είναι πια μιλάμε για χρήση απλώς AI 791 01:00:55,943 --> 01:01:00,323 σε ατομικά οπλικά συστήματα να παίρνουν αποφάσεις στόχευσης και να σκοτώνουν, 792 01:01:00,865 --> 01:01:02,200 αλλά ενσωμάτωση της τεχνητής νοημοσύνης 793 01:01:02,283 --> 01:01:05,787 σε όλη τη λήψη αποφάσεων αρχιτεκτονική του στρατού. 794 01:01:09,415 --> 01:01:12,960 Ο Στρατός έχει ένα μεγάλο έργο που ονομάζεται Project Convergence. 795 01:01:14,545 --> 01:01:16,589 Το Πολεμικό Ναυτικό έχει Overmatch. 796 01:01:16,673 --> 01:01:19,592 Και η Πολεμική Αεροπορία έχει Προηγμένο Σύστημα Διαχείρισης Μάχης. 797 01:01:21,886 --> 01:01:24,138 Το Υπουργείο Άμυνας προσπαθεί να καταλάβει, 798 01:01:24,222 --> 01:01:26,683 «Πώς θα ενώσουμε όλα αυτά τα κομμάτια, 799 01:01:26,766 --> 01:01:29,268 για να μπορέσουμε να λειτουργήσουμε πιο γρήγορα από τον αντίπαλό μας 800 01:01:30,395 --> 01:01:32,355 και να κερδίσεις πραγματικά ένα πλεονέκτημα;" 801 01:01:33,481 --> 01:01:37,527 Ένας AI Battle Manager θα ήταν σαν ένας αρκετά υψηλόβαθμος Στρατηγός 802 01:01:37,610 --> 01:01:39,821 που είναι επικεφαλής της μάχης. 803 01:01:41,155 --> 01:01:44,158 Βοηθώντας να δίνονται εντολές σε μεγάλο αριθμό δυνάμεων, 804 01:01:45,118 --> 01:01:49,247 συντονισμός των ενεργειών από όλα τα όπλα που υπάρχουν εκεί έξω, 805 01:01:49,330 --> 01:01:51,958 και να το κάνει με ταχύτητα που κανένας άνθρωπος δεν μπορούσε να συμβαδίσει. 806 01:01:53,543 --> 01:01:55,294 Περάσαμε τα τελευταία 70 χρόνια 807 01:01:55,378 --> 01:01:58,798 χτίζοντας τον πιο εξελιγμένο στρατό στον πλανήτη, 808 01:01:58,881 --> 01:02:03,177 και τώρα βρισκόμαστε μπροστά στην απόφαση ως προς το αν θέλουμε να παραχωρήσουμε τον έλεγχο 809 01:02:03,261 --> 01:02:07,598 πάνω από αυτήν την υποδομή σε έναν αλγόριθμο, στο λογισμικό. 810 01:02:10,351 --> 01:02:13,187 Και οι συνέπειες αυτής της απόφασης 811 01:02:13,271 --> 01:02:16,774 θα μπορούσε να προκαλέσει το πλήρες βάρος του στρατιωτικού μας οπλοστασίου. 812 01:02:16,858 --> 01:02:19,902 Δεν είναι μια Χιροσίμα. Είναι εκατοντάδες. 813 01:02:25,616 --> 01:02:27,869 Αυτή είναι η στιγμή που πρέπει να δράσουμε 814 01:02:27,952 --> 01:02:33,166 γιατί το παράθυρο στην πραγματικότητα περιέχει αυτόν τον κίνδυνο κλείνει γρήγορα. 815 01:02:34,667 --> 01:02:39,338 Σήμερα το απόγευμα ξεκινάμε με τις διεθνείς προκλήσεις ασφάλειας 816 01:02:39,422 --> 01:02:41,132 που δημιουργούνται από αναδυόμενες τεχνολογίες 817 01:02:41,215 --> 01:02:44,343 στην περιοχή του θανατηφόρου αυτόνομα οπλικά συστήματα. 818 01:02:44,427 --> 01:02:47,722 Γίνονται συζητήσεις εντός των Ηνωμένων Εθνών 819 01:02:47,805 --> 01:02:50,016 για την απειλή φονικών αυτόνομων όπλων 820 01:02:50,600 --> 01:02:56,564 και την απαγόρευσή μας στα συστήματα που χρησιμοποιούν τεχνητή νοημοσύνη για την επιλογή και τη στόχευση ατόμων. 821 01:02:56,647 --> 01:03:00,777 Συναίνεση μεταξύ των τεχνολόγων είναι ξεκάθαρη και ηχηρή. 822 01:03:00,860 --> 01:03:04,030 Είμαστε αντίθετοι σε αυτόνομα όπλα που στοχεύουν ανθρώπους. 823 01:03:05,615 --> 01:03:08,993 Για χρόνια, τα κράτη έχουν στην πραγματικότητα συζήτησαν αυτό το θέμα 824 01:03:09,076 --> 01:03:11,329 θανατηφόρων αυτόνομων οπλικών συστημάτων. 825 01:03:12,288 --> 01:03:16,793 Πρόκειται για ένα κοινό, κοινή αίσθηση ασφάλειας. 826 01:03:17,752 --> 01:03:20,546 Αλλά φυσικά, δεν είναι εύκολο. 827 01:03:21,297 --> 01:03:25,968 Ορισμένες χώρες, ειδικά αυτές οι στρατιωτικές δυνάμεις, 828 01:03:26,052 --> 01:03:27,762 θέλουν να είναι μπροστά από την καμπύλη, 829 01:03:28,429 --> 01:03:31,599 έτσι που θα είναι μπροστά από τους αντιπάλους τους. 830 01:03:32,600 --> 01:03:36,187 Το πρόβλημα είναι όλοι πρέπει να συμφωνήσει για να γίνει οτιδήποτε. 831 01:03:36,896 --> 01:03:39,065 θα υπάρξει τουλάχιστον μία χώρα που αντιτίθεται, 832 01:03:39,148 --> 01:03:42,109 και σίγουρα οι Ηνωμένες Πολιτείες και η Ρωσία έχουν ξεκαθαρίσει και οι δύο 833 01:03:42,193 --> 01:03:45,655 ότι είναι αντίθετοι σε μια συνθήκη που θα απαγόρευε τα αυτόνομα όπλα. 834 01:03:47,198 --> 01:03:53,246 Όταν σκεφτόμαστε τον αριθμό ανθρώπων που εργάζονται για να κάνουν την τεχνητή νοημοσύνη πιο ισχυρή 835 01:03:54,747 --> 01:03:56,457 αυτό το δωμάτιο έχει πολύ κόσμο. 836 01:03:57,750 --> 01:04:02,880 Όταν σκεφτόμαστε το δωμάτιο των ανθρώπων, διασφαλίζοντας ότι η τεχνητή νοημοσύνη είναι ασφαλής, 837 01:04:04,340 --> 01:04:07,552 αυτό το δωμάτιο είναι πολύ πιο αραιοκατοικημένο. 838 01:04:11,764 --> 01:04:13,724 Είμαι όμως και πραγματικά αισιόδοξος. 839 01:04:16,060 --> 01:04:19,438 Κοιτάζω κάτι όπως η Σύμβαση για τα Βιολογικά Όπλα, 840 01:04:19,522 --> 01:04:21,774 που συνέβη στη μέση του Ψυχρού Πολέμου... 841 01:04:23,025 --> 01:04:27,655 ...παρά τις εντάσεις μεταξύ της Σοβιετικής Ένωσης και των Ηνωμένων Πολιτειών. 842 01:04:29,156 --> 01:04:33,536 Μπόρεσαν να συνειδητοποιήσουν ότι η ανάπτυξη βιολογικών όπλων 843 01:04:33,619 --> 01:04:36,247 δεν ήταν προς το συμφέρον τους, 844 01:04:36,330 --> 01:04:38,749 και όχι προς το συμφέρον του κόσμου γενικότερα. 845 01:04:41,335 --> 01:04:44,672 Δυναμική κούρσας εξοπλισμών ευνοούν την ταχύτητα έναντι της ασφάλειας. 846 01:04:45,715 --> 01:04:48,342 Αλλά νομίζω Αυτό που είναι σημαντικό να λάβετε υπόψη είναι, 847 01:04:48,426 --> 01:04:52,430 κάποια στιγμή, το κόστος της γρήγορης μετακίνησης γίνεται πολύ υψηλό. 848 01:04:56,225 --> 01:04:59,270 Δεν μπορούμε απλώς να αναπτύξουμε πράγματα σε απομόνωση 849 01:05:00,021 --> 01:05:06,611 και βάλε τα εκεί έξω χωρίς καμία σκέψη για το πού θα μπορούσαν να πάνε στο μέλλον. 850 01:05:07,862 --> 01:05:10,823 Πρέπει να προλάβουμε εκείνη τη στιγμή της ατομικής βόμβας. 851 01:05:14,577 --> 01:05:17,705 Τα στοιχήματα στον αγώνα AI είναι ογκώδεις. 852 01:05:18,289 --> 01:05:22,001 Δεν νομίζω ότι πολλοί άνθρωποι εκτιμούν την παγκόσμια σταθερότητα 853 01:05:22,084 --> 01:05:28,174 που έχει παρασχεθεί έχοντας ανώτερη στρατιωτική δύναμη 854 01:05:28,257 --> 01:05:31,135 τα τελευταία 75 χρόνια. 855 01:05:32,887 --> 01:05:35,681 Και έτσι οι Ηνωμένες Πολιτείες και τις συμμαχικές μας δυνάμεις, 856 01:05:36,557 --> 01:05:38,684 πρέπει να ξεπεράσουν την αντίπαλη τεχνητή νοημοσύνη. 857 01:05:43,314 --> 01:05:44,774 Δεν υπάρχει δεύτερη θέση στον πόλεμο. 858 01:05:45,524 --> 01:05:47,485 Η Κίνα στρώθηκε ένα φιλόδοξο σχέδιο 859 01:05:47,568 --> 01:05:49,111 να είναι ο παγκόσμιος ηγέτης στην τεχνητή νοημοσύνη έως το 2030. 860 01:05:49,195 --> 01:05:51,656 Είναι μια φυλή που λένε κάποιοι Αμερική χάνει... 861 01:05:52,740 --> 01:05:56,160 Θα επιταχύνει την υιοθέτηση της τεχνητής νοημοσύνης 862 01:05:56,243 --> 01:05:59,246 να εξασφαλίσει το ανταγωνιστικό στρατιωτικό μας πλεονέκτημα. 863 01:06:02,875 --> 01:06:05,461 Βαδίζουμε μπροστά με αυτή την τεχνολογία. 864 01:06:05,544 --> 01:06:08,673 Νομίζω τι είναι ασαφές πόσο μακριά θα πάμε; 865 01:06:09,507 --> 01:06:12,760 Ελέγχουμε την τεχνολογία, ή μας ελέγχει; 866 01:06:14,136 --> 01:06:16,973 Πραγματικά δεν υπάρχει ευκαιρία για τα do-overs. 867 01:06:17,807 --> 01:06:20,977 Μόλις το τζίνι βγει από το μπουκάλι, είναι έξω. 868 01:06:22,019 --> 01:06:25,189 Και είναι πολύ, πολύ δύσκολο να το ξαναβάλω. 869 01:06:28,609 --> 01:06:31,737 Και αν δεν ενεργήσουμε τώρα, είναι πολύ αργά. 870 01:06:33,114 --> 01:06:34,657 Μπορεί να είναι ήδη πολύ αργά.