wake-up-neo.com

So verbinden Sie Datenrahmen (innen, außen, links, rechts)

Gegeben zwei Datenrahmen:

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))

df1
#  CustomerId Product
#           1 Toaster
#           2 Toaster
#           3 Toaster
#           4   Radio
#           5   Radio
#           6   Radio

df2
#  CustomerId   State
#           2 Alabama
#           4 Alabama
#           6    Ohio

Wie kann ich den Datenbankstil ausführen, d. H. SQL-Stil, Joins ? Das heißt, wie bekomme ich:

  • Ein innerer Join von df1 und df2:
    Geben Sie nur die Zeilen zurück, in denen die linke Tabelle übereinstimmende Schlüssel in der rechten Tabelle enthält.
  • Ein Outer Join von df1 und df2:
    Gibt alle Zeilen aus beiden Tabellen zurück, füge Datensätze von links zusammen, die übereinstimmende Schlüssel in der rechten Tabelle haben.
  • A linker äußerer Join (oder einfach linker Join) von df1 und df2
    Geben Sie alle Zeilen aus der linken Tabelle und alle Zeilen mit übereinstimmenden Schlüsseln aus der rechten Tabelle zurück.
  • A rechte äußere Verknüpfung von df1 und df2
    Geben Sie alle Zeilen aus der rechten Tabelle und alle Zeilen mit übereinstimmenden Schlüsseln aus der linken Tabelle zurück.

Extra Gutschrift:

Wie kann ich eine SQL-Style-Select-Anweisung ausführen?

1113
Dan Goldstein

Mit der Funktion merge und ihren optionalen Parametern:

Innerer Join: merge(df1, df2) funktioniert in diesen Beispielen, da R die Frames automatisch durch gemeinsame Variablennamen verbindet, aber Sie möchten höchstwahrscheinlich merge(df1, df2, by = "CustomerId") angeben, um sicherzustellen, dass Sie nur in den gewünschten Feldern übereinstimmen. Sie können auch die Parameter by.x und by.y verwenden, wenn die übereinstimmenden Variablen in den verschiedenen Datenrahmen unterschiedliche Namen haben.

Äußerer Join: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)

Links außen: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)

Rechts außen: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)

Cross Join: merge(x = df1, y = df2, by = NULL)

Genau wie beim inneren Join möchten Sie wahrscheinlich explizit "CustomerId" an R als übereinstimmende Variable übergeben. Ich denke, es ist fast immer am besten, die Bezeichner, auf denen Sie zusammenführen möchten, explizit anzugeben. Es ist sicherer, wenn sich die eingegebenen data.frames unerwartet ändern und später leichter zu lesen sind.

Sie können mehrere Spalten zusammenführen, indem Sie by einen Vektor zuweisen, z. B. by = c("CustomerId", "OrderId").

Wenn die Spaltennamen zum Zusammenführen nicht identisch sind, können Sie angeben, z. B. by.x = "CustomerId_in_df1", by.y = "CustomerId_in_df2" wobei CustomerId_in_df1 der Name der Spalte im ersten Datenrahmen und CustomerId_in_df2 der Name von ist die Spalte im zweiten Datenrahmen. (Dies können auch Vektoren sein, wenn Sie mehrere Spalten zusammenführen müssen.)

1217
Matt Parker

Ich würde empfehlen, das sqldf-Paket von Gabor Grothendieck zu lesen, mit dem Sie diese Operationen in SQL ausdrücken können.

library(sqldf)

## inner join
df3 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              JOIN df2 USING(CustomerID)")

## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State 
              FROM df1
              LEFT JOIN df2 USING(CustomerID)")

Ich finde die SQL-Syntax einfacher und natürlicher als ihre R-Entsprechung (aber dies spiegelt möglicherweise nur meine RDBMS-Tendenz wider).

Weitere Informationen zu Joins finden Sie unter Gabor's sqldf GitHub .

203
medriscoll

Es gibt den Ansatz data.table für einen inneren Join, der sehr zeit- und speichereffizient ist (und für einige größere data.frames erforderlich ist):

library(data.table)

dt1 <- data.table(df1, key = "CustomerId") 
dt2 <- data.table(df2, key = "CustomerId")

joined.dt1.dt.2 <- dt1[dt2]

merge funktioniert auch für data.tables (da es generisch ist und merge.data.table aufruft)

merge(dt1, dt2)

auf Stackoverflow dokumentierte Datentabelle:
So führen Sie einen Datentabellen-Zusammenführungsvorgang durch
Übersetzen von SQL-Joins für Fremdschlüssel in die R data.table-Syntax
Effiziente Alternativen zum Zusammenführen für größere Datenrahmen R
Wie mache ich einen einfachen Left Outer Join mit data.table in R?

Eine weitere Option ist die Funktion join, die im Paket plyr enthalten ist

library(plyr)

join(df1, df2,
     type = "inner")

#   CustomerId Product   State
# 1          2 Toaster Alabama
# 2          4   Radio Alabama
# 3          6   Radio    Ohio

Optionen für type: inner, left, right, full.

From ?join: Im Gegensatz zu merge behält [join] die Reihenfolge von x bei, unabhängig davon, welcher Verknüpfungstyp verwendet wird.

183

Sie können Joins auch mit Hadley Wickhams fantastischem dplyr -Paket erstellen.

library(dplyr)

#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)

Mutierende Joins: Fügen Sie Spalten zu df1 hinzu, indem Sie Übereinstimmungen in df2 verwenden

#inner
inner_join(df1, df2)

#left outer
left_join(df1, df2)

#right outer
right_join(df1, df2)

#alternate right outer
left_join(df2, df1)

#full join
full_join(df1, df2)

Joins filtern: Zeilen in df1 herausfiltern, Spalten nicht ändern

semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
165
Andrew Barr

Es gibt einige gute Beispiele dafür im R Wiki . Ich werde hier ein paar stehlen:

Mergemethode

Da Ihre Schlüssel den gleichen Namen haben, können Sie einen inneren Join auf folgende Weise erstellen: merge ():

merge(df1,df2)

ein vollständiger innerer Join (alle Datensätze aus beiden Tabellen) kann mit dem Schlüsselwort "all" erstellt werden:

merge(df1,df2, all=TRUE)

eine linke äußere Verknüpfung von df1 und df2:

merge(df1,df2, all.x=TRUE)

eine rechte äußere Verknüpfung von df1 und df2:

merge(df1,df2, all.y=TRUE)

sie können sie umdrehen, schlagen und nach unten reiben, um die beiden anderen äußeren Verbindungen zu erhalten, nach denen Sie gefragt haben :)

Indexmethode

Ein linker Outer Join mit df1 auf der linken Seite unter Verwendung einer Indexmethode wäre:

df1[,"State"]<-df2[df1[ ,"Product"], "State"]

Die andere Kombination von Outer-Joins können Sie erstellen, indem Sie das Beispiel für den linken Outer-Join-Index mischen. (Ja, ich weiß, das ist das Äquivalent zu "Ich lasse es als Übung für den Leser ...")

77
JD Long

Neu in 2014:

Vor allem, wenn Sie sich auch für die allgemeine Datenbearbeitung interessieren (einschließlich Sortieren, Filtern, Untergruppieren, Zusammenfassen usw.), sollten Sie sich auf jeden Fall dplyr ansehen, das mit einer Vielzahl von Funktionen ausgestattet ist, die Ihre Arbeit erleichtern sollen arbeiten speziell mit Datenrahmen und bestimmten anderen Datenbanktypen. Es bietet sogar eine ziemlich ausgefeilte SQL-Schnittstelle und sogar eine Funktion, um (den meisten) SQL-Code direkt in R zu konvertieren.

Die vier fügebezogenen Funktionen im dplyr-Paket sind (um es zu zitieren):

  • inner_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x mit übereinstimmenden Werten in y und alle Spalten von x und y zurück
  • left_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x und alle Spalten von x und y zurück
  • semi_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x zurück, bei denen es übereinstimmende Werte in y gibt, wobei nur Spalten von x beibehalten werden.
  • anti_join(x, y, by = NULL, copy = FALSE, ...): Gibt alle Zeilen von x zurück, bei denen es keine übereinstimmenden Werte in y gibt, wobei nur Spalten von x beibehalten werden

Es ist alles hier sehr detailliert.

Die Auswahl der Spalten kann mit select(df,"column") erfolgen. Wenn das für Sie nicht SQL-gerecht ist, gibt es die Funktion sql(), in die Sie den SQL-Code so wie er ist eingeben können, und sie führt die von Ihnen angegebene Operation so aus, als würden Sie die ganze Zeit in R schreiben (z Weitere Informationen entnehmen Sie bitte der dplyr/database-Vignette ). Bei korrekter Anwendung werden beispielsweise mit sql("SELECT * FROM hflights") alle Spalten aus der Dplyr-Tabelle "hflights" (ein "tbl") ausgewählt.

69
maj

Aktualisierung der data.table-Methoden zum Verknüpfen von Datasets. Unten finden Sie Beispiele für jeden Join-Typ. Es gibt zwei Methoden, eine von [.data.table, wenn die zweite data.table als erstes Argument an subset übergeben wird, eine andere Methode ist die Verwendung der merge -Funktion, die an die schnelle data.table-Methode gesendet wird.

df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join

library(data.table)

dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]

setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]

# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]

# inner join - use `nomatch` argument
dt1[dt2, nomatch=NULL, on = "CustomerId"]

# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]

# inner join - using merge method
merge(dt1, dt2, by = "CustomerId")

# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)

# see ?merge.data.table arguments for other cases

Unterhalb der Benchmark-Tests finden Sie die Basis R, sqldf, dplyr und data.table.
Benchmark testet nicht verschlüsselte/nicht indizierte Datensätze. Der Benchmark wird für Datasets mit 50M-1 Zeilen durchgeführt. Die Join-Spalte enthält 50M-2 gemeinsame Werte, sodass jedes Szenario (inner, left, right, full) getestet werden kann und der Join immer noch nicht trivial ist. Es ist ein Join-Typ, der die Join-Algorithmen gut betont. Die Timings sind ab sqldf:0.4.11, dplyr:0.7.8, data.table:1.12.0.

# inner
Unit: seconds
   expr       min        lq      mean    median        uq       max neval
   base 111.66266 111.66266 111.66266 111.66266 111.66266 111.66266     1
  sqldf 624.88388 624.88388 624.88388 624.88388 624.88388 624.88388     1
  dplyr  51.91233  51.91233  51.91233  51.91233  51.91233  51.91233     1
     DT  10.40552  10.40552  10.40552  10.40552  10.40552  10.40552     1
# left
Unit: seconds
   expr        min         lq       mean     median         uq        max 
   base 142.782030 142.782030 142.782030 142.782030 142.782030 142.782030     
  sqldf 613.917109 613.917109 613.917109 613.917109 613.917109 613.917109     
  dplyr  49.711912  49.711912  49.711912  49.711912  49.711912  49.711912     
     DT   9.674348   9.674348   9.674348   9.674348   9.674348   9.674348       
# right
Unit: seconds
   expr        min         lq       mean     median         uq        max
   base 122.366301 122.366301 122.366301 122.366301 122.366301 122.366301     
  sqldf 611.119157 611.119157 611.119157 611.119157 611.119157 611.119157     
  dplyr  50.384841  50.384841  50.384841  50.384841  50.384841  50.384841     
     DT   9.899145   9.899145   9.899145   9.899145   9.899145   9.899145     
# full
Unit: seconds
  expr       min        lq      mean    median        uq       max neval
  base 141.79464 141.79464 141.79464 141.79464 141.79464 141.79464     1
 dplyr  94.66436  94.66436  94.66436  94.66436  94.66436  94.66436     1
    DT  21.62573  21.62573  21.62573  21.62573  21.62573  21.62573     1

Beachten Sie, dass es andere Arten von Joins gibt, die Sie mit data.table ausführen können:
- pdate bei Join - wenn Sie Werte aus einer anderen Tabelle in Ihre Haupttabelle übernehmen möchten
- Aggregat bei Join - Wenn Sie nach dem Schlüssel aggregieren möchten, den Sie beitreten, müssen Sie nicht alle Join-Ergebnisse materialisieren
- überlappender Join - wenn Sie nach Bereichen zusammenführen möchten
- Rolling Join - Wenn Sie möchten, dass die Zusammenführung mit Werten aus vorhergehenden/folgenden Zeilen übereinstimmt, indem Sie sie vorwärts oder rückwärts rollen
- ngleicher Join - wenn Ihre Join-Bedingung ungleich ist

Zu reproduzierender Code:

library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
sapply(c("sqldf","dplyr","data.table"), packageVersion, simplify=FALSE)

n = 5e7
set.seed(108)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)

mb = list()
# inner join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x"),
               sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
               dplyr = inner_join(df1, df2, by = "x"),
               DT = dt1[dt2, nomatch=NULL, on = "x"]) -> mb$inner

# left outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.x = TRUE),
               sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
               dplyr = left_join(df1, df2, by = c("x"="x")),
               DT = dt2[dt1, on = "x"]) -> mb$left

# right outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all.y = TRUE),
               sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
               dplyr = right_join(df1, df2, by = "x"),
               DT = dt1[dt2, on = "x"]) -> mb$right

# full outer join
microbenchmark(times = 1L,
               base = merge(df1, df2, by = "x", all = TRUE),
               dplyr = full_join(df1, df2, by = "x"),
               DT = merge(dt1, dt2, by = "x", all = TRUE)) -> mb$full

lapply(mb, print) -> nul
66
jangorecki

dplyr hat seit 0.4 alle diese Joins implementiert, einschließlich outer_join, aber es ist erwähnenswert, dass für die ersten Veröffentlichungen vor 0.4 outer_join und as nicht angeboten hat Infolgedessen gab es eine ganze Weile lang eine Menge wirklich schlechten Hacky-Workaround-Benutzercodes (Sie können diesen Code immer noch in SO, Kaggle answers, github aus dieser Zeit finden. Daher dient diese Antwort immer noch einem nützlichen Zweck.)

Join-bezogen Release-Highlights :

v0.5 (6/2016)

  • Handhabung für POSIXct-Typ, Zeitzonen, Duplikate, verschiedene Faktorstufen. Bessere Fehler und Warnungen.
  • Neues Suffix-Argument, um zu steuern, welches Suffix doppelte Variablennamen erhalten (# 1296)

v0.4.0 (1/2015)

  • Implementiere Right Join und Outer Join (# 96)
  • Mutierende Joins, die einer Tabelle neue Variablen aus übereinstimmenden Zeilen in einer anderen hinzufügen. Filterverknüpfungen, bei denen Beobachtungen aus einer Tabelle basierend darauf gefiltert werden, ob sie mit einer Beobachtung in der anderen Tabelle übereinstimmen oder nicht.

v0.3 (10/2014)

  • Kann jetzt durch verschiedene Variablen in jeder Tabelle left_join: df1%>% left_join (df2, c ("var1" = "var2"))

v0.2 (5/2014)

  • * _join () ordnet Spaltennamen nicht mehr neu an (# 324)

v0.1.3 (4/2014)

Problemumgehungen für die Kommentare von hadley in dieser Ausgabe:

  • right_join (x, y) ist in Bezug auf die Zeilen dasselbe wie left_join (y, x), nur die Spalten haben unterschiedliche Reihenfolgen. Einfach mit select umgehen (new_column_order)
  • outer_join ist im Grunde genommen union (left_join (x, y), right_join (x, y)) - d. h. alle Zeilen in beiden Datenrahmen beibehalten.
26
smci

Beim Zusammenfügen von zwei Datenrahmen mit jeweils ~ 1 Million Zeilen, einem mit 2 Spalten und dem anderen mit ~ 20, habe ich überraschenderweise festgestellt, dass merge(..., all.x = TRUE, all.y = TRUE) schneller ist als dplyr::full_join(). Dies ist mit Dplyr v0.4

Das Zusammenführen dauert ca. 17 Sekunden, das Zusammenführen dauert ca. 65 Sekunden.

Ein bisschen Essen für mich, da ich normalerweise Dplyr für Manipulationsaufgaben verwende.

22
BradP

Für den Fall eines Links-Joins mit einer 0..*:0..1-Kardinalität oder eines Rechts-Joins mit einer 0..1:0..*-Kardinalität ist es möglich, die einseitigen Spalten des Joiners (die 0..1 -Tabelle) an Ort und Stelle zuzuweisen. direkt auf den Joinee (die 0..* -Tabelle) und vermeiden Sie dadurch die Erstellung einer völlig neuen Datentabelle. Dazu müssen die Schlüsselspalten des Joinees mit dem Joiner abgeglichen und die Joiner-Zeilen für die Zuweisung entsprechend indiziert und sortiert werden.

Wenn der Schlüssel eine einzelne Spalte ist, können wir mit einem einzigen Aufruf match() den Abgleich durchführen. Auf diesen Fall werde ich in dieser Antwort eingehen.

Hier ist ein Beispiel, das auf dem OP basiert, außer dass ich df2 eine zusätzliche Zeile mit der ID 7 hinzugefügt habe, um den Fall eines nicht übereinstimmenden Schlüssels im Joiner zu testen. Dies ist effektiv df1 left join df2:

df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
##   CustomerId Product   State
## 1          1 Toaster    <NA>
## 2          2 Toaster Alabama
## 3          3 Toaster    <NA>
## 4          4   Radio Alabama
## 5          5   Radio    <NA>
## 6          6   Radio    Ohio

Oben habe ich eine Annahme fest codiert, dass die Schlüsselspalte die erste Spalte beider Eingabetabellen ist. Ich würde argumentieren, dass dies im Allgemeinen keine unangemessene Annahme ist, da es seltsam wäre, wenn Sie einen data.frame mit einer Schlüsselspalte haben, wenn er nicht als erste Spalte des data.frame von eingerichtet worden wäre der Anfang. Und Sie können die Spalten jederzeit neu anordnen, um dies zu erreichen. Eine vorteilhafte Konsequenz dieser Annahme ist, dass der Name der Schlüsselspalte nicht fest codiert werden muss, obwohl ich annehme, dass es nur eine Annahme durch eine andere ersetzt. Die Genauigkeit ist ein weiterer Vorteil der Ganzzahlindizierung sowie der Geschwindigkeit. In den folgenden Benchmarks ändere ich die Implementierung so, dass die Verwendung der Indexierung von Zeichenfolgenamen mit den konkurrierenden Implementierungen übereinstimmt.

Ich denke, dies ist eine besonders geeignete Lösung, wenn Sie mehrere Tabellen haben, die Sie mit einer einzigen großen Tabelle verknüpfen möchten. Eine wiederholte Neuerstellung der gesamten Tabelle für jede Zusammenführung wäre unnötig und ineffizient.

Wenn Sie andererseits möchten, dass der Joinee durch diesen Vorgang aus irgendeinem Grund unverändert bleibt, kann diese Lösung nicht verwendet werden, da sie den Joinee direkt ändert. In diesem Fall können Sie jedoch einfach eine Kopie erstellen und die direkten Zuweisungen für die Kopie ausführen.


Als Randnotiz habe ich kurz mögliche passende Lösungen für mehrspaltige Schlüssel untersucht. Leider habe ich nur folgende passende Lösungen gefunden:

  • ineffiziente Verkettungen. z.B. match(interaction(df1$a,df1$b),interaction(df2$a,df2$b)) oder die gleiche Idee mit paste().
  • ineffiziente kartesische Konjunktionen, z.B. outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`).
  • base R merge() und entsprechende paketbasierte Zusammenführungsfunktionen, die immer eine neue Tabelle zuordnen, um das zusammengeführte Ergebnis zurückzugeben, und daher nicht für eine auf In-Place-Zuweisungen basierende Lösung geeignet sind.

Beispiel: Mehrere Spalten in verschiedenen Datenrahmen abgleichen und als Ergebnis eine andere Spalte abrufen , Zwei Spalten mit zwei anderen Spalten abgleichen , Mehrere Spalten abgleichen =, und das Duplikat dieser Frage, bei der ich ursprünglich auf die In-Place-Lösung gekommen bin, Kombiniere zwei Datenrahmen mit unterschiedlicher Zeilenanzahl in R .


Benchmarking

Ich habe mich dazu entschlossen, mein eigenes Benchmarking durchzuführen, um herauszufinden, wie der In-Place-Zuweisungsansatz im Vergleich zu den anderen in dieser Frage angebotenen Lösungen ist.

Testcode:

library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);

solSpecs <- list(
    merge=list(testFuncs=list(
        inner=function(df1,df2,key) merge(df1,df2,key),
        left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
        right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
        full =function(df1,df2,key) merge(df1,df2,key,all=T)
    )),
    data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
        inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
        right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
        full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
        inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
        left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
        right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
        full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
    )),
    sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
        inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
        right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
        inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
        left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
        right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
        ##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
    )),
    plyr=list(testFuncs=list(
        inner=function(df1,df2,key) join(df1,df2,key,'inner'),
        left =function(df1,df2,key) join(df1,df2,key,'left'),
        right=function(df1,df2,key) join(df1,df2,key,'right'),
        full =function(df1,df2,key) join(df1,df2,key,'full')
    )),
    dplyr=list(testFuncs=list(
        inner=function(df1,df2,key) inner_join(df1,df2,key),
        left =function(df1,df2,key) left_join(df1,df2,key),
        right=function(df1,df2,key) right_join(df1,df2,key),
        full =function(df1,df2,key) full_join(df1,df2,key)
    )),
    in.place=list(testFuncs=list(
        left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
        right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
    ))
);

getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];

initSqldf <- function() {
    sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
    if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
        sqldf(); ## creates a new connection
    } else {
        assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
    }; ## end if
    invisible();
}; ## end initSqldf()

setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
    ## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
    callExpressions <- list();
    nms <- character();
    for (solType in solTypes) {
        testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
        if (is.null(testFunc)) next; ## this join type is not defined for this solution type
        testFuncName <- paste0('tf.',solType);
        assign(testFuncName,testFunc,envir=env);
        argSpecKey <- solSpecs[[solType]]$argSpec;
        argSpec <- getArgSpec(argSpecs,argSpecKey);
        argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
        for (i in seq_along(argSpec$args)) {
            argName <- paste0('tfa.',argSpecKey,i);
            assign(argName,argSpec$args[[i]],envir=env);
            argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
        }; ## end for
        callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
        nms[length(nms)+1L] <- solType;
    }; ## end for
    names(callExpressions) <- nms;
    callExpressions;
}; ## end setUpBenchmarkCall()

harmonize <- function(res) {
    res <- as.data.frame(res); ## coerce to data.frame
    for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
    for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
    ##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
    res <- res[order(names(res))]; ## order columns
    res <- res[do.call(order,res),]; ## order rows
    res;
}; ## end harmonize()

checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
    for (joinType in getJoinTypes()) {
        callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
        if (length(callExpressions)<2L) next;
        ex <- harmonize(eval(callExpressions[[1L]]));
        for (i in seq(2L,len=length(callExpressions)-1L)) {
            y <- harmonize(eval(callExpressions[[i]]));
            if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
                ex <<- ex;
                y <<- y;
                solType <- names(callExpressions)[i];
                stop(paste0('non-identical: ',solType,' ',joinType,'.'));
            }; ## end if
        }; ## end for
    }; ## end for
    invisible();
}; ## end checkIdentical()

testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
    callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
    bm <- microbenchmark(list=callExpressions,times=times);
    if (is.null(metric)) return(bm);
    bm <- summary(bm);
    res <- setNames(nm=names(callExpressions),bm[[metric]]);
    attr(res,'unit') <- attr(bm,'unit');
    res;
}; ## end testJoinType()

testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
    joinTypes <- getJoinTypes();
    resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
    if (is.null(metric)) return(resList);
    units <- unname(unlist(lapply(resList,attr,'unit')));
    res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
    for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
    res;
}; ## end testAllJoinTypes()

testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {

    res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
    res[solTypes] <- NA_real_;
    res$unit <- NA_character_;
    for (ri in seq_len(nrow(res))) {

        size <- res$size[ri];
        overlap <- res$overlap[ri];
        joinType <- res$joinType[ri];

        argSpecs <- makeArgSpecsFunc(size,overlap);

        checkIdentical(argSpecs,solTypes);

        cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
        res[ri,match(names(cur),names(res))] <- cur;
        res$unit[ri] <- attr(cur,'unit');

    }; ## end for

    res;

}; ## end testGrid()

Hier ist eine Benchmark des Beispiels basierend auf dem OP, das ich zuvor demonstriert habe:

## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
    default=list(copySpec=1:2,args=list(
        df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
        df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
        'CustomerId'
    )),
    data.table.unkeyed=list(copySpec=1:2,args=list(
        as.data.table(df1),
        as.data.table(df2),
        'CustomerId'
    )),
    data.table.keyed=list(copySpec=1:2,args=list(
        setkey(as.data.table(df1),CustomerId),
        setkey(as.data.table(df2),CustomerId)
    ))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2

checkIdentical(argSpecs);

testAllJoinTypes(argSpecs,metric='median');
##    join    merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed      plyr    dplyr in.place         unit
## 1 inner  644.259           861.9345          923.516        9157.752      1580.390  959.2250 270.9190       NA microseconds
## 2  left  713.539           888.0205          910.045        8820.334      1529.714  968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804           909.1900          923.944        8930.668      1533.135 1063.7860 269.8495 218.1035 microseconds
## 4  full 1302.203          3107.5380         3184.729              NA            NA 1593.6475 270.7055       NA microseconds

Hier vergleiche ich zufällige Eingabedaten mit verschiedenen Maßstäben und unterschiedlichen Mustern der Schlüsselüberlappung zwischen den beiden Eingabetabellen. Dieser Benchmark ist weiterhin auf den Fall eines einspaltigen Integer-Schlüssels beschränkt. Um sicherzustellen, dass die In-Place-Lösung sowohl für linke als auch für rechte Joins derselben Tabellen funktioniert, verwenden alle zufälligen Testdaten die Kardinalität 0..1:0..1. Dies wird durch ersatzloses Abtasten der Schlüsselspalte des ersten Datenrahmens beim Generieren der Schlüsselspalte des zweiten Datenrahmens implementiert.

makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {

    com <- as.integer(size*overlap);

    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
            df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
            'id'
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            'id'
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkey(as.data.table(df1),id),
            setkey(as.data.table(df2),id)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
    sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()

## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
##     user   system  elapsed
## 22024.65 12308.63 34493.19

Ich habe Code geschrieben, um Log-Log-Diagramme der obigen Ergebnisse zu erstellen. Ich habe für jeden Überlappungsprozentsatz ein separates Diagramm erstellt. Es ist ein bisschen unübersichtlich, aber ich mag es, wenn alle Lösungstypen und Verknüpfungstypen im selben Diagramm dargestellt werden.

Ich habe Spline-Interpolation verwendet, um eine glatte Kurve für jede Kombination aus Lösung und Verbindungstyp anzuzeigen, die mit einzelnen PCH-Symbolen gezeichnet wurde. Der Verbindungstyp wird durch das PCH-Symbol erfasst, wobei ein Punkt für die inneren, linken und rechten spitzen Klammern für links und rechts und eine Raute für voll verwendet wird. Der Lösungstyp wird durch die in der Legende angegebene Farbe erfasst.

plotRes <- function(res,titleFunc,useFloor=F) {
    solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
    normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
    joinTypes <- getJoinTypes();
    cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='Magenta');
    pchs <- list(inner=20L,left='<',right='>',full=23L);
    cexs <- c(inner=0.7,left=1,right=1,full=0.7);
    NP <- 60L;
    ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
    ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
    for (overlap in unique(res$overlap)) {
        x1 <- res[res$overlap==overlap,];
        x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
        xlim <- c(1e1,max(x1$size));
        xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
        ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
        yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
        yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
        plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
        abline(v=xticks,col='lightgrey');
        abline(h=yticks.minor,col='lightgrey',lty=3L);
        abline(h=yticks,col='lightgrey');
        axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
        axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
        axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
        for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
            x2 <- x1[x1$joinType==joinType,];
            for (solType in solTypes) {
                if (any(!is.na(x2[[solType]]))) {
                    xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
                    points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
                }; ## end if
            }; ## end for
        }; ## end for
        ## custom legend
        ## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
        ## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
        leg.cex <- 0.7;
        leg.x.in <- grconvertX(0.275,'nfc','in');
        leg.y.in <- grconvertY(0.6,'nfc','in');
        leg.x.user <- grconvertX(leg.x.in,'in');
        leg.y.user <- grconvertY(leg.y.in,'in');
        leg.outpad.w.in <- 0.1;
        leg.outpad.h.in <- 0.1;
        leg.midpad.w.in <- 0.1;
        leg.midpad.h.in <- 0.1;
        leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
        leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
        leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
        leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
        leg.main.w.in <- leg.join.w.in*length(joinTypes);
        leg.main.h.in <- leg.sol.h.in*length(solTypes);
        leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
        leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
        leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
        leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
        leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
        leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
        rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
        text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
        text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
        for (i in seq_along(joinTypes)) {
            joinType <- joinTypes[i];
            points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
        }; ## end for
        title(titleFunc(overlap));
        readline(sprintf('overlap %.02f',overlap));
    }; ## end for
}; ## end plotRes()

titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);

R-merge-benchmark-single-column-integer-key-optional-one-to-one-99

R-merge-benchmark-single-column-integer-key-optional-one-to-one-50

R-merge-benchmark-single-column-integer-key-optional-one-to-one-1


Hier ist ein zweiter Benchmark im großen Maßstab, der in Bezug auf die Anzahl und Art der Schlüsselspalten sowie die Kardinalität anspruchsvoller ist. Für diesen Benchmark verwende ich drei Schlüsselspalten: ein Zeichen, eine Ganzzahl und eine logische, ohne Einschränkung der Kardinalität (dh 0..*:0..*). (Im Allgemeinen ist es aufgrund von Gleitkommavergleichskomplikationen nicht ratsam, Schlüsselspalten mit doppelten oder komplexen Werten zu definieren, und im Grunde genommen verwendet niemand den Rohtyp, geschweige denn für Schlüsselspalten, weshalb ich diese Typen nicht in den Schlüssel aufgenommen habe Außerdem habe ich zur Information zunächst versucht, vier Schlüsselspalten mit einer POSIXct-Schlüsselspalte zu verwenden, aber der POSIXct-Typ hat aus irgendeinem Grund, möglicherweise aufgrund von Gleitkommazahlen, nicht gut mit der sqldf.indexed -Lösung gespielt Vergleichsanomalien, also habe ich sie entfernt.)

makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {

    ## number of unique keys in df1
    u1Size <- as.integer(size*uniquePct/100);

    ## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
    ## use ceiling() to ensure we cover u1Size; will truncate afterward
    u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));

    ## generate the unique key values for df1
    keys1 <- expand.grid(stringsAsFactors=F,
        idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=sample(u1SizePerKeyColumn),
        idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
    )[seq_len(u1Size),];

    ## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
    ## also scramble the order afterward
    keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];

    ## common and unilateral key counts
    com <- as.integer(size*overlap);
    uni <- size-com;

    ## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
    keys2 <- data.frame(stringsAsFactors=F,
        idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
        idInteger=u1SizePerKeyColumn+sample(uni),
        idLogical=sample(c(F,T),uni,T)
        ##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
    );

    ## rbind random keys from df1; this will complete the many-to-many relationship
    ## also scramble the order afterward
    keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];

    ##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
    keyNames <- c('idCharacter','idInteger','idLogical');
    ## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
    argSpecs <- list(
        default=list(copySpec=1:2,args=list(
            df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
            keyNames
        )),
        data.table.unkeyed=list(copySpec=1:2,args=list(
            as.data.table(df1),
            as.data.table(df2),
            keyNames
        )),
        data.table.keyed=list(copySpec=1:2,args=list(
            setkeyv(as.data.table(df1),keyNames),
            setkeyv(as.data.table(df2),keyNames)
        ))
    );
    ## prepare sqldf
    initSqldf();
    sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
    sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2

    argSpecs;

}; ## end makeArgSpecs.assortedKey.optionalManyToMany()

sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
##     user   system  elapsed
## 38895.50   784.19 39745.53

Die resultierenden Diagramme verwenden denselben oben angegebenen Diagrammcode:

titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);

R-merge-benchmark-assorted-key-optional-many-to-many-99

R-merge-benchmark-assorted-key-optional-many-to-many-50

R-merge-benchmark-assorted-key-optional-many-to-many-1

21
bgoldst
  1. Mit der merge -Funktion können wir die Variable der linken oder rechten Tabelle auswählen, so wie wir es alle mit der select-Anweisung in SQL gewohnt sind (EX: Wählen Sie a. * ... oder Select b. * Aus .... .)
  2. Wir müssen zusätzlichen Code hinzufügen, der Teilmenge aus der neu verbundenen Tabelle wird.

    • SQL: - select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

    • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]

Gleicher Weg

  • SQL: - select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId

  • R: - merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]

7
sanjeeb

Für einen inneren Join für alle Spalten können Sie auch fintersect aus dem Paket data.table - oder intersect aus dem Paket dplyr - als verwenden eine Alternative zu merge ohne Angabe der by- Spalten. Dies ergibt die Zeilen, die zwischen zwei Datenrahmen gleich sind:

merge(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
dplyr::intersect(df1, df2)
#   V1 V2
# 1  B  2
# 2  C  3
data.table::fintersect(setDT(df1), setDT(df2))
#    V1 V2
# 1:  B  2
# 2:  C  3

Beispieldaten:

df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
6
Jaap

Update-Join. Ein weiterer wichtiger Join im SQL-Stil ist ein " pdate-Join ", bei dem Spalten in einer Tabelle aktualisiert werden (oder erstellt) mit einer anderen Tabelle.

Änderung der OP-Beispieltabellen ...

sales = data.frame(
  CustomerId = c(1, 1, 1, 3, 4, 6), 
  Year = 2000:2005,
  Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
  CustomerId = c(1, 1, 4, 6), 
  Year = c(2001L, 2002L, 2002L, 2002L),
  State = state.name[1:4]
)

sales
# CustomerId Year Product
#          1 2000 Toaster
#          1 2001 Toaster
#          1 2002 Toaster
#          3 2003   Radio
#          4 2004   Radio
#          6 2005   Radio

cust
# CustomerId Year    State
#          1 2001  Alabama
#          1 2002   Alaska
#          4 2002  Arizona
#          6 2002 Arkansas

Angenommen, wir möchten den Status des Kunden von cust zur Einkaufstabelle sales hinzufügen und dabei die Jahresspalte ignorieren. Mit der Basis R können wir übereinstimmende Zeilen identifizieren und dann Werte kopieren über:

sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]

# CustomerId Year Product    State
#          1 2000 Toaster  Alabama
#          1 2001 Toaster  Alabama
#          1 2002 Toaster  Alabama
#          3 2003   Radio     <NA>
#          4 2004   Radio  Arizona
#          6 2005   Radio Arkansas

# cleanup for the next example
sales$State <- NULL

Wie hier zu sehen ist, wählt match die erste übereinstimmende Zeile aus der Kundentabelle aus.


Update Join mit mehreren Spalten. Der oben beschriebene Ansatz funktioniert gut, wenn wir nur eine Spalte verbinden und mit der ersten Übereinstimmung zufrieden sind. Angenommen, das Jahr der Messung in der Kundentabelle soll mit dem Verkaufsjahr übereinstimmen.

Wie in der Antwort von @ bgoldst erwähnt, kann match mit interaction eine Option für diesen Fall sein. Einfacher könnte man data.table verwenden:

library(data.table)
setDT(sales); setDT(cust)

sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]

#    CustomerId Year Product   State
# 1:          1 2000 Toaster    <NA>
# 2:          1 2001 Toaster Alabama
# 3:          1 2002 Toaster  Alaska
# 4:          3 2003   Radio    <NA>
# 5:          4 2004   Radio    <NA>
# 6:          6 2005   Radio    <NA>

# cleanup for next example
sales[, State := NULL]

Rollender Update-Join. Alternativ möchten wir möglicherweise den letzten Status übernehmen, in dem der Kunde gefunden wurde:

sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]

#    CustomerId Year Product    State
# 1:          1 2000 Toaster     <NA>
# 2:          1 2001 Toaster  Alabama
# 3:          1 2002 Toaster   Alaska
# 4:          3 2003   Radio     <NA>
# 5:          4 2004   Radio  Arizona
# 6:          6 2005   Radio Arkansas

Die drei Beispiele konzentrieren sich vor allem auf das Erstellen/Hinzufügen einer neuen Spalte. In den zugehörigen R-FAQ finden Sie ein Beispiel zum Aktualisieren/Ändern einer vorhandenen Spalte.

2
Frank