Tag: Autonomes Fahren

Paper Review – Language Modeling, Deep vs. Diverse Architecture und Sentiment Analysis

Wir sind im Sommermodus. Aktuell basteln wir an einem Plan, wie wir euch ab Herbst weiter mit spannenden Artikeln aus der Machine Learning Szene begeistern k├Ânnen.

In unserer Rubrik┬áPaper Review┬ástellen wir euch aktuelle Paper aus dem Bereich Machine Learning vor. Wir fassen f├╝r euch das┬áWesentliche zusammen und ihr entscheidet selbst, ob ihr das Paper lesen wollt oder nicht.┬áViel Spa├č!

In┬áNeural Networks Compression for Language Modeling werden RNNs komprimiert. Hier handelt es sich um RNNs, die verschiedene Text-Klassifizierungen durchf├╝hren. Das ist besonders wichtig f├╝r Mobile Devices, die dadurch mehrschichtige Netze effizienter abspeichern k├Ânnen. Bereits im Juli haben wir euch im Paper Reivew das Paper Towards Evolutional Compression vorgestellt – dort werden ├Ąhnliche Algorithmen verwendet.┬áHier gehts zum Paper.

Der┬áAutor von Deep vs. Diverse Architectures for Classification Problems vergleicht verschiedene Netz-Architekturen f├╝r verschiedene Aufgaben. Es stellt sich heraus, dass sich f├╝r einige Aufgaben Deep-Learning-Architekturen besonders eignen. Allerdings lassen sich auch Aufgaben finden, die mit kleineren (unkomplexeren) Architekturen l├Âsen lassen. Deep-Learning ist also nicht die sofort die Allzweckwaffe. Wof├╝r ihr welche Algorithmen benutzen solltet, lest hier hier.┬áHier gehts zum Paper.

In Sentiment Analysis by Joint Learning of Word Embeddings and Classifier┬ávon┬áPrathusha Kameswara Sarma und Bill Sethares wird┬áSupervised Word Embeddings for Sentiment Analysis┬ávorgestellt. Mit dieser Struktur erreichen sie auf verschiedenen Datenbanken in ihren Experiments den State-of-the-Art bez├╝glich AUC. In einigen F├Ąllen sind sie damit sogar genauer als die aktuell bekannten Ergebnisse. SWESA ist dabei ein sehr flexibles Konstrukt. Hier gehts zum Paper.

 

Am Rand erw├Ąhnt

5 Dinge die Machine Learning f├╝r die Menschheit tun kann

In unserer Rubrik High Five stellen wir euch unsere Top-Liste zu einer bestimmten Machine Learning relevanten Kategorie vor. Diesmal haben wir uns angeschaut, was Machine Learning f├╝r die Menschheit tun kann. Wie wir das ganze sehen, lest ihr hier!

work-chinese-industrial-professional1. Uns von sinnlosen Jobs befreien

Viele von uns kennen diesen Moment im Job! Man w├╝nscht sich einen Roboter, der einen monotone Arbeit abnimmt. Sowas kann gelingen. Monotone Arbeiten wie Bandarbeit sind meist nicht nur f├╝r unsere Psyche sehr anstrengend, sondern auch f├╝r unseren unseren K├Ârper. Abnutzungserscheinungen an Knochen und anderen K├Ârperteilen sind die Folge.

pexels-photo-2615012. Unsere Faulheit kompensieren

├ähnlich zu der monotonen Arbeit im Job, kann uns Machine Learning auch von monotonen Arbeiten im privaten Bereich befreien. Dabei sind die Vorlieben diverser als im Arbeitsleben. W├Ąhrend ein passionierter G├Ąrtner lieber selbst gie├čt, kann der nicht vorhandene gr├╝ne Daumen von anderen Personen durch Sensoren und Sensormodelle kompensiert werden. Dabei ist G├Ąrtnern nur ein Beispiel f├╝r viele Anwendungsbereiche.

pexels-photo-2481563. Vorhersagen ├╝ber unsere Gesundheit machen

Durch statistische Verfahren k├Ânnen wir eine bestimmte Anf├Ąlligkeit f├╝r Krankheiten ermitteln. Das bedeutet, man kann Krankheiten behandeln, bevor sie auftreten. Damit wird unser Leben auch vorhersagbarer – daf├╝r aber sicherer.

 

pexels-photo (3)

4. Unser Leben sicherer machen

Autonomes Fahren und vernetzte Verkehrssysteme werden es uns erm├Âglichen, sicherer ans Ziel zu kommen. Schon heut ist viel Machine Learning in Verkehrsleitsystemen und sogar Autos verbaut. Nicht nur auf der Stra├če gibt es daf├╝r Anwendungen. Auch im Luft- und Wasserverkehrt werden smarte Systeme eingesetzt.

 

industry-sunrise-clouds-fog-39553

5. Die Umwelt schonen

Wieviel M├╝ll wird wann und wo produziert? Wieviel Energie wird verbraucht, wieviel Energie muss zeit-/ortsbezogen erzeugt werden? Diese Fragen k├Ânnen uns smarte Netze beantworten, die sehr viele Daten gesammelt haben und somit die Umwelt schonen k├Ânnen. Es wird nur so viel Energie produziert, wie tats├Ąchlich gebraucht wird und der M├╝ll wird ebenfalls smarter entsorgt.




Nat├╝rlich gibt es noch weitere Anwendungsf├Ąlle. Machine Learning kann uns helfen, den Fokus auf wichtigere und komplexere Fragestellungen zu legen, die uns als Menschheit helfen und uns weiter bringen.

5 coole Anwendungen f├╝r Deep Learning

Viele halten es f├╝r einen Hype, aber es gibt auch Anwendungen, in denen Deep Learning uns schon ernsthaft helfen kann. Egal ob im Bereich Computer Vision, Natural Language Processing oder Creation, Deep Learning Anwendungen werden in den n├Ąchsten Jahren immer h├Ąufiger auftreten. Hier ein paar Anwendungen, die aktuell schon m├Âglich sind.

1. Bring deinem Auto bei, wie ein Mensch zu lenken

Es ist kein Problem mehr, ein eigenes Auto dazu zu bringen, zu lenken wie ein Mensch. Das einzige, was man dazu braucht, ist etwas Technik, ein Auto, ein paar Kameras und dieses Paper als Bauanleitung. Damit kann jeder ein selbstfahrendes Auto nachbauen. Das ganze l├Ąuft mit Torch 7. Eine gute Simulationsumgebung hierf├╝r ist dann wohl Grand Theft Auto.

2. Bau dir ein intelligentes Tagging-System f├╝r deine Bilder

Resultate von Projekt deepimagesent. Credits: Stanford.edu

Resultate von Projekt deepimagesent. Credits: Stanford.edu

Bilder zu beschreiben, haben Deep Learning Netze ebenfalls gelernt. Besonders spannend wird es, wenn man eine gro├če Bildersammlung hat und nun herausfinden will, was in diesen Bildern enthalten ist. Dazu bieten sich verschiedene Programme u.a. NeuralTalk von Andrej Karpathy an. Wie das Ganze funktioniert, lernt man hier┬á(sogar mit passender Demo).

 

3. Male wie ein richtiger Künstler

neural-doodle

Beispiel von Neural Doodle. Credits: alexjc

Neural Doodle hei├čt das Tool. Man┬ákann mit den, f├╝r eine Landschaftszeichnung ├╝blichen, Farben ein Bild malen. Danach transformiert ein Netz das simple Bild in ein Kunstwerk. Dabei nutzt das Netz die Farbkombinationen als Annotation und versucht aus diesen Annotationen das urspr├╝ngliche Kunstwerk wieder herzustellen. Dabei kann man zwischen verschiedenen Stilen w├Ąhlen. Es h├Ąngt ganz davon ab, was man dem Netzwerk zeigt.

 

4. Entwickle deinen eigenen Font

Eigene Fonts entwickeln mit deep-fonts. Credits: erikbern

Eigene Fonts entwickeln mit deep-fonts. Credits: erikbern

Jeder Designer hat schonmal eine Schrift ben├Âtigt, die genau nach seinen W├╝nschen aussieht. Wie w├Ąre es mit einer grafischen Oberfl├Ąche, auf der man verschiedene Regler nach links und rechts schieben kann. Was man erh├Ąlt sind verschiedene Fonts, die das Neuronale Netz passend zu den┬áEingaben anpasst.

50.000 Schriftarten hat der Autor von deep-fonts benutzt, um das Netzwerk zu trainieren. Hier erh├Ąlt man den Code und das trainierte Netz f├╝r die eigenen Spielereien.

5. H├Âre und komponiere klassische Musik

Neuronale Netze komponieren sogar Musik. Sie klingt bereits so, als w├╝rde jemand am Klavier sitzen und nur pers├Ânlich f├╝r uns spielen. Damit k├Ânnen in der Zukunft auch professionelle Komponisten und Interpreten ihre Musik von einer KI ├╝berarbeiten lassen oder sogar einem Mastering unterziehen. Das ist besonders spannend f├╝r Musiker, die noch kein Plattenlabel haben und trotzdem ein Platte in ordentlicher Qualit├Ąt produzieren wollen. Vielleicht ist das sogar noch eine Marktl├╝cke. ­čśë Nachfolgend k├Ânnt ihr h├Âren, wie das klingen kann. Mehr Infos dazu findet ihr hier.

5 weitere Anwendungen f├╝r Deep Learning lest ihr in unserem zweiten Teil der Serie.

 

Allmacht der Algorithmen – Eine Podiumsdiskussion an der Uni T├╝bingen

Im folgenden Video finden sich mehrere Experten auf dem Gebiet K├╝nstliche Intelligenz, Machine Learning und weitgefasst auch Industrie 4.0 zusammen. Claus Kleber hatte mit seiner Dokumentation names “Sch├Âne neue Welt” ├╝ber das Silicon Valley viel Aufmerksamkeit erreget. In dieser Podiumsdiskussion geht es nun darum, wie der Stand bzgl. Industrie 4.0 in Dresden ist. Es wird am Anfang etwas ├╝ber Sebastian Thrun und seine Sicht auf Technologie diskutiert. In Deutschland, einem sehr stark regulierten Land, wird diese Entwicklung nicht so schnell und avantgardistisch voran gehen, wie im Silicon Valley.

Es wird sehr viel ├╝ber autonomes Fahren geredet, technische Modelle, wie das Sense-Think-Act Modell sind Thema. Dabei ist der Vertreter der Robert Bosch GmH sehr gut im Buzzwords verteilen. Sense-Think-Act bezeichnet hier ein Paradigma aus der Robotik, bei dem die Entscheidung des Roboters nach der Reizaufnahme und dem Zusammenf├╝hren sowie Beurteilung┬áder Reize (think) erfolgt. Es werden menschliche Fehler diskutiert, die es zu minimieren gilt. 9 von 10 Autounf├Ąlle sind durch Menschen verursacht. Ego, M├╝digkeit oder fehlende Erfahrungen, es gibt viele m├Âgliche Ursachen. Au├čerdem wurden Nanodegrees (kleine nicht vollwertige aber spezielle Bildungsabschl├╝sse) diskutiert – sowie generell Bildung in der schnelleren und flexibleren Berufswelt.

An sich ist die es die Diskussion wert, angesehen zu werden – ebenso wie die oben verlinkte Dokumentation von Claus Kleber selbst.




K├╝nstliche Intelligenz in den USA! Das Strategie-Papier dazu

Im Mai 2016 haben sich in den U.S.A. verschiedene KI-Spezialisten zusammengesetzt und versucht, ein Strategiepapier f├╝r die Zukunft mit der KI zu entwickeln. Das Papier wurde nun im Oktober vorgestellt. Es enth├Ąlt neben einf├╝hrenden Worten zum Thema K├╝nstliche Intelligenz┬áauch ein paar begriffliche Definitionen (darunter Autonomy, Automation, etc.).




Das Strategiepapier gibt Handlungsempfehlung f├╝r den Pr├Ąsidenten der Vereinigten Staaten. Wer die┬áca. 50 Seiten des Reports nicht lesen will, bekommt hier die wichtigsten┬áHandlungsempfehlungen zusammengefasst:

  • Datens├Ątze der staatlichen Institutionen offenlegen, um die KI-Forschung in diesen Bereichen zu beschleunigen.
  • Institutionen und staatliche Agenturen sollten Standards festlegen, auf denen sie Informationen austauschen, gewinnen oder vorhersagen k├Ânnen.
  • Jedes Ministerium sollte Stellen f├╝r Machine Learning Engineers schaffen, damit spezifische Daten schnell ausgewertet werden k├Ânnen.

    Executive Office of the President of the United States, Quelle: Report

    Executive Office of the President of the United States, Quelle: Report

  • Das Ministerium f├╝r Verkehr soll eng mit der Wirtschaft an der Erarbeitung von Richtlinien und Gesetzen arbeiten. Dabei geht es vor allem um den Einsatz von Drohnen (UAS, unmanned aircraft systems) und autonomen Fahrzeugen (UV, automated vehicles).
  • Das Ministerium f├╝r Verkehr sollte ein skalierbares System entwickeln, dass den Luftraum der Zukunft besser ├╝berwachen kann – insbesondere individueller Personenverkehr in der Luft sowie Drohnen.
  • Die Wirtschaft soll die Ministerien zeitiger ├╝ber m├Âgliche Entwicklungen informieren, damit zeitnah Regeln und Gesetze angepasst werden k├Ânnen.
  • Sch├╝ler sollen in den Schulen mehr ├╝ber das Thema Ethik bzgl. K├╝nstlicher Intelligenz lernen. Die Kinder sollen KI-affineren Unterricht bekommen und somit f├╝r den┬ábewussten Umgang ausgebildet werden.
  • Der Pr├Ąsident sollte┬áRichtlinien┬áaufstellen, die kl├Ąren, wie die Verantwortlichkeiten bei automatischen und semi-automatischen Waffensystemen aussehen.
  • Welche Jobs und Arbeitspl├Ątze potentiell gef├Ąhrdet sind, wurde nicht untersucht, sollten aber in einem zweiten Report gekl├Ąrt werden.

Der Report kann als als eine grobe ├ťbersicht gesehen werden, die der Regierung helfen soll, sich initial mit dem Thema zu befassen. Aus dem Report geht auch hervor, dass weitere Untersuchungen notwendig sind. W├Ąhrend in den U.S.A. der KI-Ansatz eher einheitlich verstanden wird, beschr├Ąnkt sich Deutschland dort meist auf die KI in der Wirtschaft.

Die Moral des Autonomen Fahrens

Die drei MIT-Forscher┬áIyad Rahwan, Jean-Francois Bonnefon und Azim Shariff haben ein Online-Experiment gestartet, dass sich mit den Konsequenzen des┬áautonomen Fahrens besch├Ąftigt. In ihrem Experiment entwerfen sie ein Szenario, in dem die Bremsen des Autos versagen.

Moral Machine. Quelle: moralmachine.mit.edu

Moral Machine. Quelle: moralmachine.mit.edu

Die User k├Ânnen dabei immer┬áaus zwei Szenarien w├Ąhlen. Welches ├ťbel w├Ąhlen sie dabei? Ist ihnen das Leben der Insassen oder das Leben der Fu├čg├Ąnger mehr Wert? Wie verh├Ąlt es sich, wenn die Fu├čg├Ąnger j├╝nger bzw. ├Ąlter sind?

Diese und weitere Fragen werden in diesem Experiment beantwortet. Am Ende des Experiments kann man seine eigenen Ergebnisse mit den Ergebnissen der bisherigen User (im Mittel) vergleichen.

Hier gehts zur Moral Machine.