Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Für alles, was in den übrigen Lazarusthemen keinen Platz, aber mit Lazarus zutun hat.
Antworten
Ekkehard
Beiträge: 67
Registriert: So 12. Feb 2023, 12:42
OS, Lazarus, FPC: Windows Lazarus 3.6, FPC 3.2.2
CPU-Target: 64-Bit
Wohnort: Hildesheim

Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Beitrag von Ekkehard »

Hallo,
ich wollte endlich mal mein Defizit in Sachen KI verringern und hatte mit die https://github.com/joaopauloschuler/neural-api heruntergeladen. Das ist schon beeindruckend was das so kann.
Trotz vieler Beispiele verstehe ich davon nicht viel. Wie so eine KI grundsätzlich funktioniert habe ich verstanden, nur die Wege zu den Beispielen bleiben mir verborgen.
Hier einige Zeilen aus dem SimpleImageClassifier:

Code: Alles auswählen

 NN := TNNet.Create();
    NN.AddLayer([
      TNNetInput.Create(32, 32, 3),
      TNNetConvolutionLinear.Create({Features=}64, {FeatureSize=}5, {Padding=}2, {Stride=}1, {SuppressBias=}1),
      TNNetMaxPool.Create(4),
      TNNetMovingStdNormalization.Create(),
      TNNetConvolutionReLU.Create({Features=}64, {FeatureSize=}3, {Padding=}1, {Stride=}1, {SuppressBias=}1),
      TNNetConvolutionReLU.Create({Features=}64, {FeatureSize=}3, {Padding=}1, {Stride=}1, {SuppressBias=}1),
      TNNetConvolutionReLU.Create({Features=}64, {FeatureSize=}3, {Padding=}1, {Stride=}1, {SuppressBias=}1),
      TNNetConvolutionReLU.Create({Features=}64, {FeatureSize=}3, {Padding=}1, {Stride=}1, {SuppressBias=}1),
      TNNetDropout.Create(0.5),
      TNNetMaxPool.Create(2),
      TNNetFullConnectLinear.Create(10),
      TNNetSoftMax.Create()
    ]);
Mir fehlt die Information, warum das Netz genau diese Elemente benötigt, warum mit den entsprechenden Parametern usw.
Offensichtlich handelt es sich bei den Elemente "ConvolutionLinear", "MaxPool", "ConvolutionReLU", etc. um feststehende Begriffe, deren Hintergründe als bekannt vorausgesetzt werden. Sucht man im Netzt nach diesen Begriffen, landet man relativ schnell auf Seiten wie dieser https://www.nickmccullum.com/python-dee ... r-pooling/, die auf eine Python Implementierung hinweisen, die auf diesen Elementen beruht.

Deshalb meine Frage an Euch, ob mir jemand Literatur (Gerne englischsprachig) empfehlen kann, in denen insbesondere diese Aspekte erläutert werden?
Auch hier finde ich natürlich bei der Internetsuche einige Werke, aber leider kann ich nicht erkennen, ob die o.a. Aspekte enthalten sind.
Vielen Dank!

wp_xyz
Beiträge: 5187
Registriert: Fr 8. Apr 2011, 09:01

Re: Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Beitrag von wp_xyz »

Warum stellst du die Frage nicht im englischen Forum? Da ist der Autor des von dir erwähnten Packages gelegentlich unterwegs; von ihm wirst du sicher die kompetenteste Antwort bekommen.

Ekkehard
Beiträge: 67
Registriert: So 12. Feb 2023, 12:42
OS, Lazarus, FPC: Windows Lazarus 3.6, FPC 3.2.2
CPU-Target: 64-Bit
Wohnort: Hildesheim

Re: Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Beitrag von Ekkehard »

Danke! Ich wusste offen gesagt nicht wo genau ich mich da einsortieren könnte. Ich suche nochmal.

wp_xyz
Beiträge: 5187
Registriert: Fr 8. Apr 2011, 09:01

Re: Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Beitrag von wp_xyz »

Im englischen Forum heißt er "schuler". Suche nach seinen Beiträgen.

TSchnuckenbock
Beiträge: 118
Registriert: Do 20. Jul 2017, 23:47
OS, Lazarus, FPC: Win7 und Win10
CPU-Target: xxBit
Wohnort: Südheide (Schnuckenland)

Re: Literaturempfehlungen zum Thema KI, insb. CAI Neural API

Beitrag von TSchnuckenbock »

Kennst du schon

https://de.wikipedia.org/wiki/Convoluti ... al_Network

Da geht's um "Faltung". "

ReLU" steht für Rectified Linear Unit.

https://de.wikipedia.org/wiki/Rectifier ... Netzwerke)

Ich muß mir das auch demnächst mal genauer ansehen.

Ich vermute, du mußt viel Zeit mitbringen. ;-)

Antworten