Dataset Viewer
Auto-converted to Parquet
query-id
stringlengths
5
5
corpus-id
stringlengths
9
9
score
float64
1
1
00000
000000004
1
00001
000000025
1
00002
000000052
1
00003
000000074
1
00004
000000100
1
00005
000000124
1
00006
000000152
1
00007
000000172
1
00008
000000198
1
00009
000000220
1
00010
000000224
1
00011
000000257
1
00012
000000283
1
00013
000000294
1
00014
000000306
1
00015
000000314
1
00016
000000348
1
00017
000000363
1
00018
000000389
1
00019
000000408
1
00020
000000419
1
00021
000000450
1
00022
000000468
1
00023
000000495
1
00024
000000522
1
00025
000000551
1
00026
000000569
1
00027
000000593
1
00028
000000611
1
00029
000000614
1
00030
000000639
1
00031
000000640
1
00032
000000654
1
00033
000000674
1
00034
000000703
1
00035
000000725
1
00036
000000741
1
00037
000000758
1
00038
000000778
1
00039
000000801
1
00040
000000830
1
00041
000000852
1
00042
000000873
1
00043
000000874
1
00044
000000895
1
00045
000000920
1
00046
000000940
1
00047
000000967
1
00048
000000989
1
00049
000000994
1
00050
000001018
1
00051
000001041
1
00052
000001064
1
00053
000001072
1
00054
000001082
1
00055
000001099
1
00056
000001125
1
00057
000001147
1
00058
000001170
1
00059
000001195
1
00060
000001219
1
00061
000001256
1
00062
000001268
1
00063
000001269
1
00064
000001274
1
00065
000001304
1
00066
000001331
1
00067
000001348
1
00068
000001371
1
00069
000001398
1
00070
000001412
1
00071
000001432
1
00072
000001462
1
00073
000001488
1
00074
000001505
1
00075
000001525
1
00076
000001546
1
00077
000001571
1
00078
000001593
1
00079
000001599
1
00080
000001609
1
00081
000001635
1
00082
000001657
1
00083
000001683
1
00084
000001703
1
00085
000001729
1
00086
000001739
1
00087
000001750
1
00088
000001769
1
00089
000001794
1
00090
000001818
1
00091
000001820
1
00092
000001829
1
00093
000001846
1
00094
000001872
1
00095
000001894
1
00096
000001912
1
00097
000001923
1
00098
000001931
1
00099
000001957
1
End of preview. Expand in Data Studio

APPS is a benchmark for code generation with 10000 problems. It can be used to evaluate the ability of language models to generate code from natural language specifications. To create the APPS dataset, the authors manually curated problems from open-access sites where programmers share problems with each other, including Codewars, AtCoder, Kattis, and Codeforces.

Usage

import datasets

# Download the dataset
queries = datasets.load_dataset("embedding-benchmark/APPS", "queries")
documents = datasets.load_dataset("embedding-benchmark/APPS", "corpus")
pair_labels = datasets.load_dataset("embedding-benchmark/APPS", "default")
Downloads last month
42