Jein, du meinst wahrscheinlich das richtige, hast es aber anfangs falsch geschrieben.
(123)o(13) bedeutet wie bei Funktionen f, g auch die Verknüpfung fog = "f nach g ausgeführt".
Also wende ich, wenn ich Schritt für Schritt vorgehe erst (13) auf meine Elemente der Menge {1,2,3} an, aber {1,2,3} ist nicht das gleiche wie (123), denn {1,2,3} ist eine Menge von Elementen, während (123) ein Element deiner Gruppe ist. Daher solltest du dort immer unterscheiden von der Schreibweise her.
Deine Rechnung stimmt jedoch, nur wird nicht wie du schreibst erst (13) auf (123) angewendet, sondern streng genommen auf {1,2,3}, was etwas anderes ist.
Um die Hintereinanderausführung von Tupeln zu bestimmen gibt es auch eine einfache Rechenregel.
Man betrachtet die Tupel von links nach rechts und startet bei einer Zahl.
Beispiel: (132)o(23)=(?)
Wir starten links bei einer beliebigen Zahl, ich nehme jetzt die 2. Dann gucken wir, wohin die zwei im ersten Tupel angebildet wird und suchen diese Zahl im rechten Tupel.
Also hier: 2 geht im ersten Tupel auf 1 -> 1 steht aber nicht im zweiten Tupel, also bleibt 1 durch das rechte Tupel invariant. Insgesamt folgt also 2->1.
Wir können unser Gesamttupel also schon einmal "anschreiben" in der Form
(?)=(21... wobei wir noch nicht wissen, wann es abbricht.
Man nimmt nun diese Zahl, bei der man gelandet ist und startet mit dieser wieder links. Wir sind bei der 1 gelandet, also gucken wir, was mit der 1 im linken Tupel passiert. Sie geht dort auf die 3. Wir wechseln nun ins rechte Tupel und gucken, was dort mit der 3 passiert, sie geht dort auf die 2. Also folgt insgesamt für die 1: 1->2.
Für unser gesuchtes Tupel folgt somit, dass 2 auf 1 geht und 1 auf 2, also muss das Tupel geschlossen werden:
(?)=(21)
Zur Kontrolle prüfen wir noch, ob das mit der 3 passt. Sie geht links auf 2 und rechts geht diese 2 dann wieder auf die 3, also bleibt die 3 insgesamt fest und taucht daher in (?) nicht auf.
Das Ganze lässt sich auf beliebig lange Tupel verallgemeinern, wobei dann auch Mehrfachtupel der Form (..)(....)(...) usw. auftauchen können. Das passiert hier nur deshalb nicht, da wir nur drei Elemente haben.
Du kannst aber zur Übung mal (136)o(234)o(15) ausrechnen, ich geb dir danach auch gern die Lösung
Gruppen der obigen Art laufen übrigens unter "symmetrischen Gruppen" und sind mit die wichtigsten Gruppen. Sie sind genau die Gruppen der Vertauschungen von Mengenelementen. Unter dem Stichwort symm. Gruppe solltest du ne Menge finden.
Was Bücher angeht: Gruppen, Ringe, Körper sind die Standardinhalte von Algebra I, also alles was irgendwie Algebra I, Einführung in die Algebra o.ä. heißt, sollte dir helfen.
Da du jetzt aber Mengen, Gruppen, Körper etc. alles schon gehört hast, wirst du aber wahrscheinlich in einer Vorlesung sitzen, in der es nicht primär um diese geht, denn Gruppen, Körper, Ringe füllen alleine schon ein Semester, wenn man sie ausführlich behandelt.
Sitzt du in der linearen Algebra Vorlesung oder für welches Fach sind die Übngen?
Edit: Ich habe noch ein Skript zur kompletten Algebra I in den Tiefen meiner Festplatte gefunden, das geht jetzt wahrscheinlich zu weit, aber zum Stöbern ist es bestimmt gut. Da steht so ziemlich alles Wissenswerte drin:
http://www.file-upload.net/download-2943952/Geyer-Script.pdf.html