dialogue
stringlengths 3.11k
135k
| summary
stringlengths 2
12
| __index_level_0__
int64 4
26.9k
|
|---|---|---|
Enter "oceKI" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 22, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 23, 'children': [{'top': 50, 'height': 80, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 24, 'children': [{'top': 65, 'height': 63, 'width': 144, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 25, 'children': [{'text': '', 'top': 65, 'value': 'oceKI', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 26, 'children': [], 'left': 14}, {'text': 'Submit', 'top': 97, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'focused': 1, 'recordingTarget': 1, 'id': 'subbtn', 'tampered': 1, 'classes': 'secondary-action', 'ref': 27, 'children': [], 'left': 14}], 'left': 14}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 28, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 29, 'children': [{'top': 242, 'height': 16, 'width': 202, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'TASK: ENTER-TEXT-DYNAMIC', 'top': 242, 'height': 16, 'width': 202, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 248}], 'left': 248}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 32, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 33, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 34, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 38, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 39, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 40, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 41, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 42, 'children': [], 'left': 0}], 'left': 0}, {'text': 'Try New Episode', 'top': 170, 'height': 28, 'width': 150, 'tag': 'DIV', 'id': 'logging-screen', 'classes': '', 'ref': 43, 'children': [], 'left': 170}], 'left': 0}
|
click
| 17,105 |
Select Monaco from the list and click Submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 3, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 4, 'children': [{'top': 50, 'height': 58, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 5, 'children': [{'top': 57, 'height': 17, 'width': 150, 'tag': 'SELECT', 'focused': 1, 'recordingTarget': 1, 'id': 'options', 'classes': '', 'ref': 1, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 79, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': '', 'classes': 'secondary-action', 'ref': 2, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 9, 'children': [{'top': 242, 'height': 15, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 10, 'children': [{'text': 'TASK: CHOOSE-LIST', 'top': 242, 'height': 15, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 11, 'children': [], 'left': 279}], 'left': 279}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 12, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 14, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 20, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 21, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 499, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 22, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 26,940 |
Enter the password "Dggz" into both text fields and press submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Password', 'top': 62, 'height': 11, 'width': 43, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'D', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'recordingTarget': 1, 'id': 'password', 'tampered': 1, 'classes': '', 'ref': 7, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Verify password', 'top': 112, 'height': 11, 'width': 70, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': '', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'id': 'verify', 'classes': '', 'ref': 10, 'children': [], 'left': 7}], 'left': 2}, {'text': 'Submit', 'top': 162, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 9}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 15, 'width': 179, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: ENTER-PASSWORD', 'top': 242, 'height': 15, 'width': 179, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 260}], 'left': 260}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 24, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 25, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:103
| 18,519 |
Search for romance movies directed by Snyder from year 2015.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 134, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Movie Search', 'top': 62, 'height': 14, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'title-div', 'ref': 4, 'children': [], 'left': 2}, {'top': 81, 'height': 77, 'width': 143, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 81, 'height': 77, 'width': 143, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 6, 'children': [{'top': 83, 'height': 23, 'width': 143, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Year', 'top': 83, 'height': 23, 'width': 41, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 10}, {'top': 83, 'height': 23, 'width': 96, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 84, 'value': '2015', 'height': 21, 'width': 94, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 54}], 'left': 53}], 'left': 8}, {'top': 108, 'height': 23, 'width': 143, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Genre', 'top': 108, 'height': 23, 'width': 41, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 10}, {'top': 108, 'height': 23, 'width': 96, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 109, 'value': 'roman', 'height': 21, 'width': 94, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': '', 'ref': 14, 'children': [], 'left': 54}], 'left': 53}], 'left': 8}, {'top': 133, 'height': 23, 'width': 143, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Director', 'top': 133, 'height': 23, 'width': 41, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 10}, {'top': 133, 'height': 23, 'width': 96, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 134, 'value': '', 'height': 21, 'width': 94, 'tag': 'INPUT_text', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 54}], 'left': 53}], 'left': 8}], 'left': 8}], 'left': 8}, {'text': 'Submit', 'top': 163, 'height': 17, 'width': 56, 'tag': 'DIV', 'id': '', 'classes': 'final', 'ref': 19, 'children': [], 'left': 52}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 20, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 21, 'children': [{'top': 242, 'height': 16, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'TASK: MULTI-ORDERINGS', 'top': 242, 'height': 16, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 26, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 32, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 33, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 34, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 13,670 |
Switch between the tabs to find and click on the link "Tincidunt".
{'top': 0, 'height': 210, 'width': 1055, 'tag': 'BODY', 'id': '', 'classes': ' hasGoogleVoiceExt', 'ref': 8, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 9, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 10, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-4', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 4, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Vitae, purus mollis nisi.', 'top': 103, 'height': 11, 'width': 102, 'tag': 't', 'ref': -763, 'children': [], 'left': 19}, {'text': 'Risus mauris', 'top': 115, 'height': 11, 'width': 60, 'tag': 't', 'ref': -764, 'children': [], 'left': 19}, {'text': 'aenean', 'top': 115, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 6, 'children': [], 'left': 79}, {'text': 'senectus.', 'top': 126, 'height': 11, 'width': 42, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 7, 'children': [], 'left': 19}, {'text': 'Velit eu urna', 'top': 126, 'height': 11, 'width': 58, 'tag': 't', 'ref': -765, 'children': [], 'left': 61}, {'text': 'pellentesque sed. Sodales', 'top': 137, 'height': 11, 'width': 117, 'tag': 't', 'ref': -766, 'children': [], 'left': 19}, {'text': 'laoreet blandit.', 'top': 149, 'height': 11, 'width': 68, 'tag': 't', 'ref': -767, 'children': [], 'left': 19}, {'text': 'Tincidunt', 'top': 149, 'height': 11, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 87}, {'text': 'aliquet. Magna nullam.', 'top': 160, 'height': 11, 'width': 100, 'tag': 't', 'ref': -768, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2-EASY', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 136, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': 'Find the word in qu', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 477, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 507, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 507, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 9,008 |
Select -2 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '0', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': 'Utilize the up and down arrows in the white text box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Use the arrows to select the number that is written in the yellow box above', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'If the number is positive, you should use the up arrow until you select t', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 2,557 |
Enter the username "leonie" and the password "RUk7" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 8, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 9, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 10, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 12, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'leonie', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'username', 'classes': '', 'ref': 13, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 15, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': 'RUK', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'recordingTarget': 1, 'id': 'password', 'tampered': 1, 'classes': '', 'ref': 16, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 2,013 |
Click the button in the dialog box labeled "OK".
{'top': 0, 'height': 210, 'width': 1745, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 20, 'children': [{'text': '', 'top': 49, 'height': 103, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}, {'top': 223, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 22, 'children': [{'top': 242, 'height': 81, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 23, 'children': [{'top': 242, 'height': 15, 'width': 159, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 15, 'width': 159, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 270}], 'left': 270}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 26, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 27, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 359, 'height': 132, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 28, 'children': [{'text': '', 'top': 359, 'value': 'Find the button with the label "OK".', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 379, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 48}, {'text': '', 'top': 400, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 32, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 475, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 34, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 111, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 35, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 20, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 36, 'children': [], 'left': 0}], 'left': 0}, {'top': 59, 'height': 123, 'width': 139, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 1, 'children': [{'top': 62, 'height': 20, 'width': 133, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 2, 'children': [{'text': '', 'top': 66, 'height': 10, 'width': 113, 'tag': 'SPAN', 'id': 'ui-id-5', 'classes': 'ui-dialog-title', 'ref': 3, 'children': [], 'left': 13}, {'top': 63, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 4, 'children': [{'text': '', 'top': 65, 'height': 15, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 5, 'children': [], 'left': 121}, {'text': 'Close', 'top': 67, 'height': 10, 'width': 25, 'tag': 't', 'ref': -297, 'children': [], 'left': -4882}], 'left': 119}], 'left': 9}, {'top': 83, 'height': 51, 'width': 133, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 43, 'children': [{'text': 'Pretium nisl massa turpis et nullam.', 'top': 98, 'height': 21, 'width': 113, 'tag': 'P', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 19}], 'left': 9}, {'top': 140, 'height': 39, 'width': 133, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 7, 'children': [{'top': 144, 'height': 30, 'width': 97, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 8, 'children': [{'text': 'Cancel', 'top': 149, 'height': 20, 'width': 53, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 9, 'children': [], 'left': 36}, {'text': 'OK', 'top': 149, 'height': 20, 'width': 36, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 10, 'children': [], 'left': 93}], 'left': 36}], 'left': 9}, {'text': '', 'top': 60, 'height': 1, 'width': 137, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 11, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 121, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 12, 'children': [], 'left': 143}, {'text': '', 'top': 180, 'height': 1, 'width': 137, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 13, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 121, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 14, 'children': [], 'left': 7}, {'text': '', 'top': 175, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 15, 'children': [], 'left': 138}, {'text': '', 'top': 175, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 16, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 17, 'children': [], 'left': 138}, {'text': '', 'top': 60, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 18, 'children': [], 'left': 7}], 'left': 6}], 'left': 0}
|
keyup:0
| 11,962 |
Switch between the tabs to find and click on the link "eu".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 3, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 4, 'children': [{'top': 57, 'height': 23, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 5, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-1', 'classes': 'ui-tabs-anchor', 'ref': 6, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 23, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 7, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'tampered': 1, 'id': 'ui-id-2', 'classes': 'ui-tabs-anchor', 'ref': 8, 'children': [], 'left': 51}], 'left': 50}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-state-hover ui-state-focus ui-tabs-active ui-state-active', 'ref': 9, 'children': [{'text': 'Tab #3', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'focused': 1, 'recordingTarget': 1, 'id': 'ui-id-3', 'tampered': 1, 'classes': 'ui-tabs-anchor', 'ref': 10, 'children': [], 'left': 95}], 'left': 94}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-3', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 40, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 41, 'children': [{'text': 'Malesuada. Aliquet', 'top': 103, 'height': 11, 'width': 84, 'tag': 't', 'ref': -85, 'children': [], 'left': 19}, {'text': 'imperdiet interdum', 'top': 115, 'height': 11, 'width': 85, 'tag': 't', 'ref': -86, 'children': [], 'left': 19}, {'text': 'mauris,', 'top': 115, 'height': 11, 'width': 32, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 42, 'children': [], 'left': 104}, {'text': 'cursus mauris integer. Sit', 'top': 126, 'height': 11, 'width': 112, 'tag': 't', 'ref': -87, 'children': [], 'left': 19}, {'text': 'iaculis nisl aliquet. Luctus.', 'top': 137, 'height': 11, 'width': 115, 'tag': 't', 'ref': -88, 'children': [], 'left': 19}, {'text': 'Netus', 'top': 149, 'height': 11, 'width': 28, 'tag': 't', 'ref': -89, 'children': [], 'left': 19}, {'text': 'eu', 'top': 149, 'height': 11, 'width': 11, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 43, 'children': [], 'left': 47}, {'text': 'sociis lectus', 'top': 149, 'height': 11, 'width': 56, 'tag': 't', 'ref': -90, 'children': [], 'left': 59}, {'text': 'ultricies in arcu.', 'top': 160, 'height': 11, 'width': 69, 'tag': 't', 'ref': -91, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2', 'top': 242, 'height': 15, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 14,573 |
Switch between the tabs to find and click on the link "pharetra".
{'top': 0, 'height': 210, 'width': 924, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 22, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 23, 'children': [{'top': 50, 'height': 156, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 24, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': '1', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-11', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-state-hover ui-state-focus', 'ref': 4, 'children': [{'text': '2', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'focused': 1, 'recordingTarget': 1, 'id': 'ui-id-12', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 26}], 'left': 25}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 6, 'children': [{'text': '3', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-13', 'classes': 'ui-tabs-anchor', 'ref': 7, 'children': [], 'left': 46}], 'left': 45}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 8, 'children': [{'text': '4', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-14', 'classes': 'ui-tabs-anchor', 'ref': 9, 'children': [], 'left': 65}], 'left': 64}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 10, 'children': [{'text': '5', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-15', 'classes': 'ui-tabs-anchor', 'ref': 11, 'children': [], 'left': 85}], 'left': 84}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 12, 'children': [{'text': '6', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-16', 'classes': 'ui-tabs-anchor', 'ref': 13, 'children': [], 'left': 104}], 'left': 103}], 'left': 3}, {'top': 84, 'height': 117, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 14, 'children': [{'top': 104, 'height': 77, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Quisque neque.', 'top': 104, 'height': 11, 'width': 70, 'tag': 't', 'ref': -19, 'children': [], 'left': 19}, {'text': 'Consectetur tellus', 'top': 115, 'height': 11, 'width': 82, 'tag': 't', 'ref': -20, 'children': [], 'left': 19}, {'text': 'varius', 'top': 115, 'height': 11, 'width': 26, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 16, 'children': [], 'left': 101}, {'text': 'commodo. Neque', 'top': 126, 'height': 11, 'width': 81, 'tag': 't', 'ref': -21, 'children': [], 'left': 19}, {'text': 'iaculis', 'top': 126, 'height': 11, 'width': 27, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 17, 'children': [], 'left': 100}, {'text': 'id. Aliquet hendrerit. Arcu', 'top': 137, 'height': 11, 'width': 111, 'tag': 't', 'ref': -22, 'children': [], 'left': 19}, {'text': 'faucibus', 'top': 148, 'height': 11, 'width': 37, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 18, 'children': [], 'left': 19}, {'text': 'pretium', 'top': 148, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 19, 'children': [], 'left': 59}, {'text': 'urna', 'top': 148, 'height': 11, 'width': 20, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 20, 'children': [], 'left': 95}, {'text': 'fermentum,', 'top': 159, 'height': 11, 'width': 53, 'tag': 't', 'ref': -23, 'children': [], 'left': 19}, {'text': 'ut.', 'top': 159, 'height': 11, 'width': 11, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 21, 'children': [], 'left': 72}, {'text': 'Dui felis', 'top': 159, 'height': 11, 'width': 38, 'tag': 't', 'ref': -24, 'children': [], 'left': 83}, {'text': 'aliquet.', 'top': 170, 'height': 11, 'width': 32, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 22, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 40, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 41, 'children': [{'top': 242, 'height': 16, 'width': 178, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': 'TASK: CLICK-TAB-2-HARD', 'top': 242, 'height': 16, 'width': 178, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 43, 'children': [], 'left': 260}], 'left': 260}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 45, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 125, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 99}, {'text': '', 'top': 376, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 99}, {'text': '', 'top': 395, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 49, 'children': [], 'left': 99}, {'text': '', 'top': 414, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 50, 'children': [], 'left': 99}, {'text': '', 'top': 433, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 99}, {'text': '', 'top': 466, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 52, 'children': [], 'left': 0}, {'text': '', 'top': 496, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 53, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 496, 'height': 18, 'width': 84, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 54, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 25,215 |
Enter "Riley" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 88, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 67, 'height': 69, 'width': 138, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 67, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 20}, {'text': 'Submit', 'top': 105, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 20}], 'left': 20}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 25,455 |
Enter "oceKI" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 80, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 65, 'height': 63, 'width': 144, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 65, 'value': 'oce', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 14}, {'text': 'Submit', 'top': 97, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 14}], 'left': 14}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 202, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT-DYNAMIC', 'top': 242, 'height': 16, 'width': 202, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 248}], 'left': 248}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 17,083 |
Select all the shades of blue and press Submit.
{'top': 0, 'height': 210, 'width': 1440, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 15, 'children': [{'top': 50, 'height': 118, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 16, 'children': [{'text': '', 'top': 64, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1, 'children': [], 'left': 14}, {'text': '', 'top': 64, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 2, 'children': [], 'left': 50}, {'text': '', 'top': 64, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 86}, {'text': '', 'top': 64, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 122}, {'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 5, 'children': [], 'left': 14}, {'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 50}, {'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 86}, {'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'recordingTarget': 1, 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 122}, {'text': '', 'top': 140, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 14}, {'text': '', 'top': 140, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 50}, {'text': '', 'top': 140, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [], 'left': 86}, {'text': '', 'top': 140, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 122}, {'text': 'Submit', 'top': 171, 'height': 27, 'width': 88, 'tag': 'BUTTON', 'id': 'submit', 'classes': 'secondary-action', 'ref': 13, 'children': [], 'left': 49}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 30, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 31, 'children': [{'top': 242, 'height': 16, 'width': 151, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 32, 'children': [{'text': 'TASK: CLICK-SHADES', 'top': 242, 'height': 16, 'width': 151, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 33, 'children': [], 'left': 274}], 'left': 274}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 34, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 35, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 125, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 36, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 99}, {'text': '', 'top': 376, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 38, 'children': [], 'left': 99}, {'text': '', 'top': 395, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 39, 'children': [], 'left': 99}, {'text': '', 'top': 414, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 40, 'children': [], 'left': 99}, {'text': '', 'top': 433, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 41, 'children': [], 'left': 99}, {'text': '', 'top': 466, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 42, 'children': [], 'left': 0}, {'text': '', 'top': 496, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 43, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 496, 'height': 18, 'width': 87, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 44, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 15,221 |
Select Millicent from the list and click Submit.
{'top': 0, 'height': 210, 'width': 1536, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 64, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 18, 'width': 150, 'tag': 'SELECT', 'focused': 1, 'recordingTarget': 1, 'id': 'options', 'classes': '', 'ref': 4, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 80, 'height': 32, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': 'secondary-action', 'ref': 5, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 6, 'children': [{'top': 242, 'height': 84, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'TASK: CHOOSE-LIST', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 279}], 'left': 279}, {'top': 259, 'height': 66, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 10, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 259, 'height': 66, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 11, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 362, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 12, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 384, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 406, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 428, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 450, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 486, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 18, 'children': [], 'left': 0}, {'text': '', 'top': 516, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 19, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 521, 'height': 22, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 22,309 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -7673, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -7674, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -7675, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -7676, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -7677, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -7678, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -7679, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please select either "Tab #1" or "Tab #2" where you find the link mention', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 4,716 |
Navigate through the file tree. Find and click on the folder or file named "Cheree".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 34, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 30, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 4, 'children': [{'top': 52, 'height': 30, 'width': 156, 'tag': 'UL', 'id': 'tree', 'classes': 'filetree treeview', 'ref': 5, 'children': [{'top': 52, 'height': 15, 'width': 156, 'tag': 'LI', 'id': '', 'classes': 'expandable', 'ref': 6, 'children': [{'text': '', 'top': 53, 'height': 16, 'width': 16, 'tag': 'DIV', 'id': '', 'classes': 'hitarea expandable-hitarea', 'ref': 7, 'children': [], 'left': 2}, {'text': 'Kenda', 'top': 53, 'height': 13, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'folder', 'ref': 8, 'children': [], 'left': 18}], 'left': 2}, {'top': 67, 'height': 15, 'width': 156, 'tag': 'LI', 'id': '', 'classes': 'expandable lastExpandable', 'ref': 9, 'children': [{'text': '', 'top': 68, 'height': 16, 'width': 16, 'tag': 'DIV', 'id': '', 'classes': 'hitarea expandable-hitarea lastExpandable-hitarea', 'ref': 10, 'children': [], 'left': 2}, {'text': 'Jerald', 'top': 68, 'height': 13, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'folder', 'ref': 11, 'children': [], 'left': 18}], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 15, 'width': 157, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: NAVIGATE-TREE', 'top': 242, 'height': 15, 'width': 157, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 271}], 'left': 271}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 24, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 25, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
{}
| 18,488 |
Enter 07/30/2019 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 55, 'height': 61, 'width': 150, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 57, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '0020-07-30', 'height': 20, 'width': 125, 'tag': 'INPUT_date', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 87, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 7}], 'left': 7}], 'left': 5}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 134, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-DATE', 'top': 242, 'height': 15, 'width': 134, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 13,216 |
Click on the grid coordinate (2,-2).
{'top': 0, 'height': 210, 'width': 733, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 47, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 48, 'children': [{'top': 50, 'height': 160, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 49, 'children': [{'top': 54, 'height': 150, 'width': 150, 'tag': 'svg', 'id': '', 'classes': {}, 'ref': 50, 'children': [{'text': '', 'top': 65, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-2,2)', 'classes': {}, 'ref': 51, 'children': [], 'left': 15}, {'text': '', 'top': 95, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-2,1)', 'classes': {}, 'ref': 52, 'children': [], 'left': 15}, {'text': '', 'top': 125, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-2,0)', 'classes': {}, 'ref': 53, 'children': [], 'left': 15}, {'text': '', 'top': 155, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-2,-1)', 'classes': {}, 'ref': 54, 'children': [], 'left': 15}, {'text': '', 'top': 185, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-2,-2)', 'classes': {}, 'ref': 55, 'children': [], 'left': 15}, {'text': '', 'top': 65, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-1,2)', 'classes': {}, 'ref': 56, 'children': [], 'left': 45}, {'text': '', 'top': 95, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-1,1)', 'classes': {}, 'ref': 57, 'children': [], 'left': 45}, {'text': '', 'top': 125, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-1,0)', 'classes': {}, 'ref': 58, 'children': [], 'left': 45}, {'text': '', 'top': 155, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-1,-1)', 'classes': {}, 'ref': 59, 'children': [], 'left': 45}, {'text': '', 'top': 185, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(-1,-2)', 'classes': {}, 'ref': 60, 'children': [], 'left': 45}, {'text': '', 'top': 65, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(0,2)', 'classes': {}, 'ref': 61, 'children': [], 'left': 75}, {'text': '', 'top': 95, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(0,1)', 'classes': {}, 'ref': 62, 'children': [], 'left': 75}, {'text': '', 'top': 125, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(0,0)', 'classes': {}, 'ref': 63, 'children': [], 'left': 75}, {'text': '', 'top': 155, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(0,-1)', 'classes': {}, 'ref': 64, 'children': [], 'left': 75}, {'text': '', 'top': 185, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(0,-2)', 'classes': {}, 'ref': 65, 'children': [], 'left': 75}, {'text': '', 'top': 65, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(1,2)', 'classes': {}, 'ref': 66, 'children': [], 'left': 105}, {'text': '', 'top': 95, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(1,1)', 'classes': {}, 'ref': 67, 'children': [], 'left': 105}, {'text': '', 'top': 125, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(1,0)', 'classes': {}, 'ref': 68, 'children': [], 'left': 105}, {'text': '', 'top': 155, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(1,-1)', 'classes': {}, 'ref': 69, 'children': [], 'left': 105}, {'text': '', 'top': 185, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(1,-2)', 'classes': {}, 'ref': 70, 'children': [], 'left': 105}, {'text': '', 'top': 65, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(2,2)', 'classes': {}, 'ref': 71, 'children': [], 'left': 135}, {'text': '', 'top': 95, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(2,1)', 'classes': {}, 'ref': 72, 'children': [], 'left': 135}, {'text': '', 'top': 125, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(2,0)', 'classes': {}, 'ref': 73, 'children': [], 'left': 135}, {'text': '', 'top': 155, 'height': 8, 'width': 8, 'tag': 'circle', 'id': '(2,-1)', 'classes': {}, 'ref': 74, 'children': [], 'left': 135}, {'text': '', 'top': 185, 'height': 8, 'width': 8, 'tag': 'circle', 'tampered': 1, 'recordingTarget': 1, 'id': '(2,-2)', 'classes': {}, 'ref': 75, 'children': [], 'left': 135}], 'left': 4}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 76, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 77, 'children': [{'top': 242, 'height': 16, 'width': 178, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 78, 'children': [{'text': 'TASK: GRID-COORDINATE', 'top': 242, 'height': 16, 'width': 178, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 79, 'children': [], 'left': 260}], 'left': 260}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 80, 'children': [{'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 81, 'children': [{'text': 'Click', 'top': 258, 'height': 16, 'width': 39, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-3', 'ref': 82, 'children': [], 'left': 4}, {'text': 'START to reveal the task description -- experiment with the interface multiple times to ensure that', 'top': 258, 'height': 16, 'width': 652, 'tag': 't', 'ref': -37, 'children': [], 'left': 43}, {'text': 'you learn how to accomplish the task. Then,', 'top': 274, 'height': 16, 'width': 297, 'tag': 't', 'ref': -38, 'children': [], 'left': 43}, {'text': 'please', 'top': 274, 'height': 16, 'width': 49, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-4', 'ref': 83, 'children': [], 'left': 341}, {'text': 'explain to the AI assistant (in step-wise', 'top': 274, 'height': 16, 'width': 264, 'tag': 't', 'ref': -39, 'children': [], 'left': 391}, {'text': 'instructions) how to do this task. Your instructions should be general enough to explain how to', 'top': 290, 'height': 16, 'width': 634, 'tag': 't', 'ref': -40, 'children': [], 'left': 32}, {'text': 'accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel', 'top': 306, 'height': 16, 'width': 694, 'tag': 't', 'ref': -41, 'children': [], 'left': 2}, {'text': 'appropriate', 'top': 322, 'height': 16, 'width': 77, 'tag': 't', 'ref': -42, 'children': [], 'left': 311}], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 373, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 84, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 85, 'children': [], 'left': 48}, {'text': '', 'top': 394, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 86, 'children': [], 'left': 48}, {'text': '', 'top': 415, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 87, 'children': [], 'left': 48}, {'text': '', 'top': 436, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 88, 'children': [], 'left': 48}, {'text': '', 'top': 457, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 89, 'children': [], 'left': 48}, {'text': '', 'top': 492, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 90, 'children': [], 'left': 0}, {'text': '', 'top': 522, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 91, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 522, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 92, 'children': [], 'left': 0}], 'left': 0}, {'text': 'Try New Episode', 'top': 170, 'height': 28, 'width': 150, 'tag': 'DIV', 'id': 'logging-screen', 'classes': '', 'ref': 93, 'children': [], 'left': 170}], 'left': 0}
|
click
| 25,408 |
Enter "Agustina" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 77, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 63, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 12}, {'text': 'Submit', 'top': 94, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 12}], 'left': 12}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 10,358 |
Find the email by Zelma and forward that email to Geneva.
{'top': 0, 'height': 210, 'width': 1536, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 165, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 161, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 70, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 71, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 72, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 73, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 39, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 74, 'children': [{'top': 73, 'height': 23, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 75, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 76, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Ge', 'height': 18, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 77, 'children': [], 'left': 19}], 'left': 2}, {'top': 96, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 78, 'children': [{'text': 'subject:', 'top': 98, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 79, 'children': [], 'left': 4}, {'text': 'Ultricies.', 'top': 98, 'height': 11, 'width': 38, 'tag': 't', 'ref': -25, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 112, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 80, 'children': [{'text': '', 'top': 112, 'value': 'Mauris urna, turpis lectus. Velit tincidunt.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 81, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 35, 'children': [{'top': 242, 'height': 84, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 36, 'children': [{'top': 242, 'height': 16, 'width': 214, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD', 'top': 242, 'height': 16, 'width': 214, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 242}], 'left': 242}, {'top': 259, 'height': 66, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 39, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 259, 'height': 66, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 362, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 41, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 42, 'children': [], 'left': 48}, {'text': '', 'top': 384, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 43, 'children': [], 'left': 48}, {'text': '', 'top': 406, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 44, 'children': [], 'left': 48}, {'text': '', 'top': 428, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 45, 'children': [], 'left': 48}, {'text': '', 'top': 450, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 46, 'children': [], 'left': 48}, {'text': '', 'top': 486, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 47, 'children': [], 'left': 0}, {'text': '', 'top': 516, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 48, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 516, 'height': 22, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 49, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:110
| 136 |
Book the shortest one-way flight from: SDF to: Portsmouth, NH on 11/21/2016.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 160, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 60, 'height': 139, 'width': 156, 'tag': 'DIV', 'id': 'menu', 'classes': '', 'ref': 4, 'children': [{'text': 'Book Your One-Way Flight', 'top': 60, 'height': 11, 'width': 154, 'tag': 'H2', 'id': 'header-book', 'classes': '', 'ref': 5, 'children': [], 'left': 4}, {'top': 79, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 6, 'children': [{'text': '', 'top': 81, 'value': 'Louisville, KY (SDF)', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'flight-from', 'classes': 'flight-input ui-autocomplete-input', 'ref': 7, 'children': [], 'left': 4}], 'left': 2}, {'top': 102, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 8, 'children': [{'text': '', 'top': 104, 'value': 'Portsmouth, NH (PSM)', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'flight-to', 'classes': 'flight-input ui-autocomplete-input', 'ref': 9, 'children': [], 'left': 4}], 'left': 2}, {'top': 140, 'height': 35, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'departure-container', 'ref': 10, 'children': [{'text': 'Departure Date', 'top': 140, 'height': 15, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'departure-header', 'ref': 11, 'children': [], 'left': 2}, {'top': 155, 'height': 20, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 12, 'children': [{'text': '', 'top': 157, 'value': '', 'height': 16, 'width': 106, 'tag': 'INPUT_text', 'focused': 1, 'id': 'datepicker', 'tampered': 1, 'classes': 'flight-input hasDatepicker', 'ref': 13, 'children': [], 'left': 12}], 'left': 2}], 'left': 2}, {'top': 178, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'search-container', 'ref': 14, 'children': [{'text': 'Search', 'top': 180, 'height': 17, 'width': 126, 'tag': 'BUTTON', 'id': 'search', 'classes': '', 'ref': 15, 'children': [], 'left': 4}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 16, 'children': [{'top': 228, 'height': 64, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 228, 'height': 15, 'width': 213, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': 'TASK: BOOK-FLIGHT-NODELAY', 'top': 228, 'height': 15, 'width': 213, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 643}], 'left': 643}, {'top': 244, 'height': 47, 'width': 698, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface as much as you like to learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. You may use as many steps as you feel appropriate', 'top': 244, 'height': 47, 'width': 698, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 400}], 'left': 400}], 'left': 400}, {'top': 327, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 22, 'children': [{'text': '', 'top': 327, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 499}, {'text': '', 'top': 345, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 24, 'children': [], 'left': 499}, {'text': '', 'top': 364, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 499}, {'text': '', 'top': 383, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 499}, {'text': '', 'top': 401, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 499}, {'text': '', 'top': 420, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 28, 'children': [], 'left': 400}, {'text': '', 'top': 436, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 29, 'children': [], 'left': 988}], 'left': 400}, {'text': 'Add new step', 'top': 436, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 30, 'children': [], 'left': 400}], 'left': 400}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 31, 'children': [{'text': 'Louisville, KY (SDF)', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 791, 'children': [], 'left': -1}], 'left': -1}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 32, 'children': [{'text': 'Portsmouth, NH (PSM)', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 1382, 'children': [], 'left': -1}], 'left': -1}, {'top': 50, 'height': 104, 'width': 123, 'tag': 'DIV', 'id': 'ui-datepicker-div', 'classes': 'ui-datepicker ui-widget ui-widget-content ui-helper-clearfix ui-corner-all', 'ref': 1383, 'children': [{'top': 52, 'height': 16, 'width': 119, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-header ui-widget-header ui-helper-clearfix ui-corner-all', 'ref': 1384, 'children': [{'top': 54, 'height': 14, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-prev ui-corner-all ui-state-hover ui-datepicker-prev-hover', 'ref': 1385, 'children': [{'text': 'Prev', 'top': 54, 'height': 16, 'width': 16, 'tag': 'SPAN', 'recordingTarget': 1, 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-w', 'ref': 1386, 'children': [], 'left': 15}], 'left': 16}, {'top': 55, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-next ui-corner-all ui-state-disabled', 'ref': 1387, 'children': [{'text': 'Next', 'top': 54, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-e', 'ref': 1388, 'children': [], 'left': 116}], 'left': 117}, {'top': 55, 'height': 12, 'width': 84, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-title', 'ref': 1389, 'children': [{'text': 'December', 'top': 57, 'height': 8, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-month', 'ref': 1390, 'children': [], 'left': 48}, {'text': '2016', 'top': 57, 'height': 8, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-year', 'ref': 1391, 'children': [], 'left': 84}], 'left': 31}], 'left': 14}, {'top': 69, 'height': 82, 'width': 118, 'tag': 'TABLE', 'id': '', 'classes': 'ui-datepicker-calendar', 'ref': 1392, 'children': [{'top': 69, 'height': 15, 'width': 118, 'tag': 'THEAD', 'id': '', 'classes': '', 'ref': 1393, 'children': [{'top': 69, 'height': 15, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1394, 'children': [{'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 1395, 'children': [{'text': 'Su', 'top': 73, 'height': 7, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1396, 'children': [], 'left': 18}], 'left': 14}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1397, 'children': [{'text': 'Mo', 'top': 73, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1398, 'children': [], 'left': 34}], 'left': 31}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1399, 'children': [{'text': 'Tu', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1400, 'children': [], 'left': 52}], 'left': 47}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1401, 'children': [{'text': 'We', 'top': 73, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1402, 'children': [], 'left': 68}], 'left': 64}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1403, 'children': [{'text': 'Th', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1404, 'children': [], 'left': 85}], 'left': 81}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1405, 'children': [{'text': 'Fr', 'top': 73, 'height': 7, 'width': 6, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1406, 'children': [], 'left': 103}], 'left': 98}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 1407, 'children': [{'text': 'Sa', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1408, 'children': [], 'left': 120}], 'left': 115}], 'left': 14}], 'left': 14}, {'top': 85, 'height': 66, 'width': 118, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 1409, 'children': [{'top': 85, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1410, 'children': [{'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1411, 'children': [], 'left': 14}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1412, 'children': [], 'left': 31}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1413, 'children': [], 'left': 47}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1414, 'children': [], 'left': 64}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1415, 'children': [{'text': '1', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1416, 'children': [], 'left': 82}], 'left': 81}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1417, 'children': [{'text': '2', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1418, 'children': [], 'left': 99}], 'left': 98}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1419, 'children': [{'text': '3', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1420, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 98, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1421, 'children': [{'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1422, 'children': [{'text': '4', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1423, 'children': [], 'left': 15}], 'left': 14}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1424, 'children': [{'text': '5', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1425, 'children': [], 'left': 32}], 'left': 31}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1426, 'children': [{'text': '6', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1427, 'children': [], 'left': 48}], 'left': 47}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1428, 'children': [{'text': '7', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1429, 'children': [], 'left': 65}], 'left': 64}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1430, 'children': [{'text': '8', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1431, 'children': [], 'left': 82}], 'left': 81}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1432, 'children': [{'text': '9', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1433, 'children': [], 'left': 99}], 'left': 98}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1434, 'children': [{'text': '10', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1435, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 111, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1436, 'children': [{'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1437, 'children': [{'text': '11', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1438, 'children': [], 'left': 15}], 'left': 14}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1439, 'children': [{'text': '12', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1440, 'children': [], 'left': 32}], 'left': 31}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1441, 'children': [{'text': '13', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1442, 'children': [], 'left': 48}], 'left': 47}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1443, 'children': [{'text': '14', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1444, 'children': [], 'left': 65}], 'left': 64}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1445, 'children': [{'text': '15', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1446, 'children': [], 'left': 82}], 'left': 81}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1447, 'children': [{'text': '16', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1448, 'children': [], 'left': 99}], 'left': 98}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1449, 'children': [{'text': '17', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1450, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 125, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1451, 'children': [{'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1452, 'children': [{'text': '18', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1453, 'children': [], 'left': 15}], 'left': 14}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1454, 'children': [{'text': '19', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1455, 'children': [], 'left': 32}], 'left': 31}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1456, 'children': [{'text': '20', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1457, 'children': [], 'left': 48}], 'left': 47}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1458, 'children': [{'text': '21', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1459, 'children': [], 'left': 65}], 'left': 64}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1460, 'children': [{'text': '22', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1461, 'children': [], 'left': 82}], 'left': 81}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1462, 'children': [{'text': '23', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1463, 'children': [], 'left': 99}], 'left': 98}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1464, 'children': [{'text': '24', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1465, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 138, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1466, 'children': [{'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1467, 'children': [{'text': '25', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1468, 'children': [], 'left': 15}], 'left': 14}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1469, 'children': [{'text': '26', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1470, 'children': [], 'left': 32}], 'left': 31}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1471, 'children': [{'text': '27', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1472, 'children': [], 'left': 48}], 'left': 47}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1473, 'children': [{'text': '28', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1474, 'children': [], 'left': 65}], 'left': 64}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1475, 'children': [{'text': '29', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1476, 'children': [], 'left': 82}], 'left': 81}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1477, 'children': [{'text': '30', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1478, 'children': [], 'left': 99}], 'left': 98}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-days-cell-over ', 'ref': 1479, 'children': [{'text': '31', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1480, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}], 'left': 14}], 'left': 14}], 'left': 12}], 'left': 0}
|
mousedown
| 15,581 |
Enter the value of Color into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 18, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 19, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 20, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 2, 'children': [{'text': 'Color', 'top': 57, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': 'pink', 'top': 57, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 73}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Year of Birth', 'top': 71, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': '1943', 'top': 71, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 73}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Gender', 'top': 85, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 7}, {'text': 'Female', 'top': 85, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 73}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Language', 'top': 99, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'Telugu', 'top': 99, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 73}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Country', 'top': 113, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 7}, {'text': 'French Guiana', 'top': 113, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 73}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 37, 'children': [{'text': '', 'top': 133, 'value': 'pink', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 38, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'recordingTarget': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 39, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 40, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 41, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 43, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 45, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 49, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 50, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 52, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 53, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 54, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 24,051 |
Select 04/25/2016 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 195, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 196, 'children': [{'top': 50, 'height': 60, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 197, 'children': [{'top': 52, 'height': 18, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 198, 'children': [{'text': 'Date:', 'top': 56, 'height': 11, 'width': 26, 'tag': 't', 'ref': -11, 'children': [], 'left': 2}, {'text': '', 'top': 52, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'datepicker', 'classes': 'hasDatepicker', 'ref': 199, 'children': [], 'left': 28}], 'left': 2}, {'text': 'Submit', 'top': 82, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 200, 'children': [], 'left': 27}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 201, 'children': [{'top': 228, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 202, 'children': [{'top': 228, 'height': 15, 'width': 219, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 203, 'children': [{'text': 'TASK: CHOOSE-DATE-NODELAY', 'top': 228, 'height': 15, 'width': 219, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 204, 'children': [], 'left': 240}], 'left': 240}, {'top': 244, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 205, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 244, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 206, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 343, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 207, 'children': [{'text': '', 'top': 343, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 208, 'children': [], 'left': 99}, {'text': '', 'top': 361, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 209, 'children': [], 'left': 99}, {'text': '', 'top': 380, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 210, 'children': [], 'left': 99}, {'text': '', 'top': 399, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 211, 'children': [], 'left': 99}, {'text': '', 'top': 417, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 212, 'children': [], 'left': 99}, {'text': '', 'top': 436, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 213, 'children': [], 'left': 0}, {'text': '', 'top': 452, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 214, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 452, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 215, 'children': [], 'left': 0}], 'left': 0}, {'top': 71, 'height': 104, 'width': 123, 'tag': 'DIV', 'id': 'ui-datepicker-div', 'classes': 'ui-datepicker ui-widget ui-widget-content ui-helper-clearfix ui-corner-all', 'ref': 1, 'children': [{'top': 73, 'height': 16, 'width': 119, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-header ui-widget-header ui-helper-clearfix ui-corner-all', 'ref': 2, 'children': [{'top': 75, 'height': 14, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-prev ui-corner-all ui-state-hover ui-datepicker-prev-hover', 'ref': 3, 'children': [{'text': 'Prev', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'recordingTarget': 1, 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-w', 'ref': 4, 'children': [], 'left': 32}], 'left': 33}, {'top': 76, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-next ui-corner-all ui-state-disabled', 'ref': 5, 'children': [{'text': 'Next', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-e', 'ref': 6, 'children': [], 'left': 132}], 'left': 134}, {'top': 75, 'height': 12, 'width': 84, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-title', 'ref': 7, 'children': [{'text': 'December', 'top': 77, 'height': 8, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-month', 'ref': 8, 'children': [], 'left': 64}, {'text': '2016', 'top': 77, 'height': 8, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-year', 'ref': 9, 'children': [], 'left': 100}], 'left': 48}], 'left': 31}, {'top': 90, 'height': 82, 'width': 118, 'tag': 'TABLE', 'id': '', 'classes': 'ui-datepicker-calendar', 'ref': 10, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'THEAD', 'id': '', 'classes': '', 'ref': 11, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 13, 'children': [{'text': 'Su', 'top': 94, 'height': 7, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 35}], 'left': 31}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Mo', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 51}], 'left': 47}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': 'Tu', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 69}], 'left': 64}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 19, 'children': [{'text': 'We', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 84}], 'left': 81}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 21, 'children': [{'text': 'Th', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [], 'left': 102}], 'left': 97}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 23, 'children': [{'text': 'Fr', 'top': 94, 'height': 7, 'width': 6, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [], 'left': 120}], 'left': 115}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 25, 'children': [{'text': 'Sa', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 137}], 'left': 132}], 'left': 31}], 'left': 31}, {'top': 105, 'height': 66, 'width': 118, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 105, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 29, 'children': [], 'left': 31}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 30, 'children': [], 'left': 47}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 31, 'children': [], 'left': 64}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 32, 'children': [], 'left': 81}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 33, 'children': [{'text': '1', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 34, 'children': [], 'left': 98}], 'left': 97}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 35, 'children': [{'text': '2', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 36, 'children': [], 'left': 116}], 'left': 115}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 37, 'children': [{'text': '3', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 38, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 118, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 39, 'children': [{'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 40, 'children': [{'text': '4', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 41, 'children': [], 'left': 32}], 'left': 31}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 42, 'children': [{'text': '5', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 43, 'children': [], 'left': 48}], 'left': 47}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 44, 'children': [{'text': '6', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 45, 'children': [], 'left': 65}], 'left': 64}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 46, 'children': [{'text': '7', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 47, 'children': [], 'left': 82}], 'left': 81}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 48, 'children': [{'text': '8', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 49, 'children': [], 'left': 98}], 'left': 97}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 50, 'children': [{'text': '9', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 51, 'children': [], 'left': 116}], 'left': 115}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 52, 'children': [{'text': '10', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 53, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 132, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 54, 'children': [{'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 55, 'children': [{'text': '11', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 56, 'children': [], 'left': 32}], 'left': 31}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 57, 'children': [{'text': '12', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 58, 'children': [], 'left': 48}], 'left': 47}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 59, 'children': [{'text': '13', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 60, 'children': [], 'left': 65}], 'left': 64}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 61, 'children': [{'text': '14', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 62, 'children': [], 'left': 82}], 'left': 81}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 63, 'children': [{'text': '15', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 64, 'children': [], 'left': 98}], 'left': 97}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 65, 'children': [{'text': '16', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 66, 'children': [], 'left': 116}], 'left': 115}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 67, 'children': [{'text': '17', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 68, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 145, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 69, 'children': [{'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 70, 'children': [{'text': '18', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 71, 'children': [], 'left': 32}], 'left': 31}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 72, 'children': [{'text': '19', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 73, 'children': [], 'left': 48}], 'left': 47}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 74, 'children': [{'text': '20', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 75, 'children': [], 'left': 65}], 'left': 64}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 76, 'children': [{'text': '21', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 77, 'children': [], 'left': 82}], 'left': 81}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 78, 'children': [{'text': '22', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 79, 'children': [], 'left': 98}], 'left': 97}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 80, 'children': [{'text': '23', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 81, 'children': [], 'left': 116}], 'left': 115}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 82, 'children': [{'text': '24', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 83, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 158, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 84, 'children': [{'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 85, 'children': [{'text': '25', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 86, 'children': [], 'left': 32}], 'left': 31}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 87, 'children': [{'text': '26', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 88, 'children': [], 'left': 48}], 'left': 47}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 89, 'children': [{'text': '27', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 90, 'children': [], 'left': 65}], 'left': 64}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 91, 'children': [{'text': '28', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 92, 'children': [], 'left': 82}], 'left': 81}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 93, 'children': [{'text': '29', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 94, 'children': [], 'left': 98}], 'left': 97}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 95, 'children': [{'text': '30', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 96, 'children': [], 'left': 116}], 'left': 115}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-days-cell-over ', 'ref': 97, 'children': [{'text': '31', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default ui-state-hover', 'ref': 98, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}], 'left': 31}], 'left': 31}], 'left': 28}], 'left': 0}
|
mouseup
| 16,293 |
Find the 4th word in the paragraph, type that into the textbox and press "Submit".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 98, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Nibh neque sit convallis faucibus varius feugiat', 'top': 62, 'height': 22, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 2}, {'text': '', 'top': 97, 'value': 'convalli', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 119, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 127, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: FIND-WORD', 'top': 242, 'height': 15, 'width': 127, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 286}], 'left': 286}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 153, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 360, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 384, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 409, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 434, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 458, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 494, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 524, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 524, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 16,212 |
Enter "Riley" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 88, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 67, 'height': 69, 'width': 138, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 67, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 20}, {'text': 'Submit', 'top': 105, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 20}], 'left': 20}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 25,421 |
Find the email by Jodie and reply to them with the text "Augue amet. Quam sed.".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 158, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 154, 'width': 156, 'tag': 'DIV', 'id': 'reply', 'classes': '', 'ref': 70, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'tampered': 1, 'id': 'reply-bar', 'classes': '', 'ref': 71, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-reply', 'classes': '', 'ref': 80, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-reply', 'classes': '', 'ref': 81, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 32, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-header', 'ref': 72, 'children': [{'top': 73, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-info', 'ref': 73, 'children': [{'text': 'to:', 'top': 75, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': 'reply-to', 'ref': 74, 'children': [], 'left': 4}, {'text': 'Jodie', 'top': 75, 'height': 11, 'width': 23, 'tag': 'SPAN', 'id': '', 'classes': 'reply-sender', 'ref': 75, 'children': [], 'left': 19}], 'left': 2}, {'top': 89, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-subject', 'ref': 76, 'children': [{'text': 'subject:', 'top': 91, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': 'reply-subj', 'ref': 77, 'children': [], 'left': 4}, {'text': 'Re: Vel.', 'top': 91, 'height': 11, 'width': 35, 'tag': 't', 'ref': -145, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 105, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-body', 'ref': 78, 'children': [{'text': '', 'top': 105, 'value': 'Augue amet. Quam sed', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'focused': 1, 'recordingTarget': 1, 'id': 'reply-text', 'tampered': 1, 'classes': '', 'ref': 79, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 28, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 29, 'children': [{'top': 242, 'height': 15, 'width': 221, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'TASK: EMAIL-INBOX-NOSCROLL', 'top': 242, 'height': 15, 'width': 221, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 239}], 'left': 239}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 32, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 33, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 34, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 38, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 39, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 40, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 41, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 42, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 22,263 |
Find the email by Dinny and forward that email to Cynthia.
{'top': 0, 'height': 210, 'width': 1339, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 163, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 164, 'children': [{'top': 50, 'height': 164, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 165, 'children': [{'top': 52, 'height': 160, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 121, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 122, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 123, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 124, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 38, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 125, 'children': [{'top': 73, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 126, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 127, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Cynthi', 'height': 17, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 128, 'children': [], 'left': 19}], 'left': 2}, {'top': 95, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 129, 'children': [{'text': 'subject:', 'top': 97, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 130, 'children': [], 'left': 4}, {'text': 'Fringilla.', 'top': 97, 'height': 11, 'width': 37, 'tag': 't', 'ref': -675, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 111, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 131, 'children': [{'text': '', 'top': 111, 'value': 'Ullamcorper odio pellentesque amet, orci.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 132, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 178, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 179, 'children': [{'top': 242, 'height': 16, 'width': 214, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 180, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD', 'top': 242, 'height': 16, 'width': 214, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 181, 'children': [], 'left': 242}], 'left': 242}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 182, 'children': [{'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 183, 'children': [{'text': 'Click', 'top': 258, 'height': 16, 'width': 39, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 184, 'children': [], 'left': 4}, {'text': 'START to reveal the task description -- experiment with the interface multiple times to ensure that', 'top': 258, 'height': 16, 'width': 652, 'tag': 't', 'ref': -676, 'children': [], 'left': 43}, {'text': 'you learn how to accomplish the task. Then,', 'top': 274, 'height': 16, 'width': 297, 'tag': 't', 'ref': -677, 'children': [], 'left': 43}, {'text': 'please', 'top': 274, 'height': 16, 'width': 49, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 185, 'children': [], 'left': 341}, {'text': 'explain to the AI assistant (in step-wise', 'top': 274, 'height': 16, 'width': 264, 'tag': 't', 'ref': -678, 'children': [], 'left': 391}, {'text': 'instructions) how to do this task. Your instructions should be general enough to explain how to', 'top': 290, 'height': 16, 'width': 634, 'tag': 't', 'ref': -679, 'children': [], 'left': 32}, {'text': 'accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel', 'top': 306, 'height': 16, 'width': 694, 'tag': 't', 'ref': -680, 'children': [], 'left': 2}, {'text': 'appropriate', 'top': 322, 'height': 16, 'width': 77, 'tag': 't', 'ref': -681, 'children': [], 'left': 311}], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 373, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 186, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 187, 'children': [], 'left': 48}, {'text': '', 'top': 394, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 188, 'children': [], 'left': 48}, {'text': '', 'top': 415, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 189, 'children': [], 'left': 48}, {'text': '', 'top': 436, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 190, 'children': [], 'left': 48}, {'text': '', 'top': 457, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 191, 'children': [], 'left': 48}, {'text': '', 'top': 492, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 192, 'children': [], 'left': 0}, {'text': '', 'top': 522, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 193, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 522, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 194, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:97
| 24,630 |
Enter the username "tora" and the password "rQZh" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 6, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'tora', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'username', 'classes': '', 'ref': 7, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 9, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': 'rQZh', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'id': 'password', 'tampered': 1, 'classes': '', 'ref': 10, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'tampered': 1, 'recordingTarget': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 24, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 25, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 9,944 |
send Evvy the email from Robbin
{'top': 0, 'height': 210, 'width': 1600, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 73, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 74, 'children': [{'top': 50, 'height': 154, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 75, 'children': [{'top': 52, 'height': 150, 'width': 155, 'tag': 'DIV', 'recordingTarget': 1, 'id': 'main', 'classes': '', 'ref': 1, 'children': [{'top': 52, 'height': 21, 'width': 138, 'tag': 'DIV', 'id': 'main-header', 'classes': '', 'ref': 2, 'children': [{'text': 'Primary', 'top': 52, 'height': 20, 'width': 41, 'tag': 'H2', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': '', 'top': 55, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'open-search', 'classes': '', 'ref': 4, 'children': [], 'left': 120}], 'left': 2}, {'top': 73, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 5, 'children': [{'top': 75, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 6, 'children': [{'text': 'Meridith', 'top': 75, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 7, 'children': [], 'left': 7}, {'text': 'Tellus.', 'top': 87, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 8, 'children': [], 'left': 7}, {'text': 'Erat id lacus v..', 'top': 98, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 9, 'children': [], 'left': 7}], 'left': 7}, {'top': 75, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 10, 'children': [{'top': 77, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 11, 'children': [{'text': '', 'top': 80, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 12, 'children': [], 'left': 115}, {'text': '', 'top': 80, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 13, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 112, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 14, 'children': [{'top': 114, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 15, 'children': [{'text': 'Evvy', 'top': 114, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 16, 'children': [], 'left': 7}, {'text': 'Ut faucibus.', 'top': 126, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 17, 'children': [], 'left': 7}, {'text': 'Blandit. Nunc d..', 'top': 137, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 18, 'children': [], 'left': 7}], 'left': 7}, {'top': 114, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 19, 'children': [{'top': 116, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 20, 'children': [{'text': '', 'top': 119, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 21, 'children': [], 'left': 115}, {'text': '', 'top': 119, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 22, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 151, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 23, 'children': [{'top': 153, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 24, 'children': [{'text': 'Clari', 'top': 153, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 25, 'children': [], 'left': 7}, {'text': 'Sit. Blandit.', 'top': 165, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 26, 'children': [], 'left': 7}, {'text': 'Tristique odio ..', 'top': 176, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 27, 'children': [], 'left': 7}], 'left': 7}, {'top': 153, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 28, 'children': [{'top': 155, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 29, 'children': [{'text': '', 'top': 158, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 30, 'children': [], 'left': 115}, {'text': '', 'top': 158, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 31, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 190, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 32, 'children': [{'top': 192, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 33, 'children': [{'text': 'Nicky', 'top': 192, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 34, 'children': [], 'left': 7}, {'text': 'Pellentesque. T..', 'top': 204, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 35, 'children': [], 'left': 7}, {'text': 'Proin massa. Si..', 'top': 215, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 36, 'children': [], 'left': 7}], 'left': 7}, {'top': 192, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 37, 'children': [{'top': 194, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 38, 'children': [{'text': '', 'top': 197, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 39, 'children': [], 'left': 115}, {'text': '', 'top': 197, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 40, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 229, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 41, 'children': [{'top': 231, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 42, 'children': [{'text': 'Darryl', 'top': 231, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 43, 'children': [], 'left': 7}, {'text': 'Id orci.', 'top': 243, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 44, 'children': [], 'left': 7}, {'text': 'Arcu molestie o..', 'top': 254, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 45, 'children': [], 'left': 7}], 'left': 7}, {'top': 231, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 46, 'children': [{'top': 233, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 47, 'children': [{'text': '', 'top': 236, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 48, 'children': [], 'left': 115}, {'text': '', 'top': 236, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 49, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 268, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 50, 'children': [{'top': 270, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 51, 'children': [{'text': 'Linda', 'top': 270, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 52, 'children': [], 'left': 7}, {'text': 'Mattis. Digniss..', 'top': 282, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 53, 'children': [], 'left': 7}, {'text': 'Congue et rutru..', 'top': 293, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 54, 'children': [], 'left': 7}], 'left': 7}, {'top': 270, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 55, 'children': [{'top': 272, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 56, 'children': [{'text': '', 'top': 275, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 57, 'children': [], 'left': 115}, {'text': '', 'top': 275, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 58, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 307, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 59, 'children': [{'top': 309, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 60, 'children': [{'text': 'Robbin', 'top': 309, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 61, 'children': [], 'left': 7}, {'text': 'Pharetra.', 'top': 321, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 62, 'children': [], 'left': 7}, {'text': 'Cras. Arcu prae..', 'top': 332, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 63, 'children': [], 'left': 7}], 'left': 7}, {'top': 309, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 64, 'children': [{'top': 311, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 65, 'children': [{'text': '', 'top': 314, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 66, 'children': [], 'left': 115}, {'text': '', 'top': 314, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 67, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 346, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 68, 'children': [{'top': 348, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 69, 'children': [{'text': 'Violette', 'top': 348, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 70, 'children': [], 'left': 7}, {'text': 'Eget.', 'top': 360, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 71, 'children': [], 'left': 7}, {'text': 'Vitae non sed n..', 'top': 371, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 72, 'children': [], 'left': 7}], 'left': 7}, {'top': 348, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 73, 'children': [{'top': 350, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 74, 'children': [{'text': '', 'top': 353, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 75, 'children': [], 'left': 115}, {'text': '', 'top': 353, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 76, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 385, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 77, 'children': [{'top': 387, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 78, 'children': [{'text': 'Dehlia', 'top': 387, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 79, 'children': [], 'left': 7}, {'text': 'Viverra.', 'top': 399, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 80, 'children': [], 'left': 7}, {'text': 'Vel eget gravid..', 'top': 410, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 81, 'children': [], 'left': 7}], 'left': 7}, {'top': 387, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 82, 'children': [{'top': 389, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 83, 'children': [{'text': '', 'top': 392, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 84, 'children': [], 'left': 115}, {'text': '', 'top': 392, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 85, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 88, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 89, 'children': [{'top': 242, 'height': 16, 'width': 281, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 90, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD-NL-TURK', 'top': 242, 'height': 16, 'width': 281, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 91, 'children': [], 'left': 209}], 'left': 209}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 92, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 93, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 94, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 95, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 96, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 97, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 98, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 99, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 100, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 101, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 102, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 11,303 |
Select words similar to flames, amusing, homes, courageous and click Submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 14, 'children': [{'top': 50, 'height': 125, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 15, 'children': [{'top': 52, 'height': 83, 'width': 156, 'tag': 'DIV', 'id': 'boxes', 'classes': '', 'ref': 16, 'children': [{'top': 56, 'height': 11, 'width': 60, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 1, 'children': [{'text': '', 'top': 55, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'focused': 1, 'id': 'ch0', 'tampered': 1, 'classes': '', 'ref': 2, 'children': [], 'left': 4}, {'text': 'fearless', 'top': 56, 'height': 11, 'width': 35, 'tag': 't', 'ref': -131, 'children': [], 'left': 27}], 'left': 2}, {'top': 73, 'height': 11, 'width': 50, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 71, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch1', 'classes': '', 'ref': 4, 'children': [], 'left': 4}, {'text': 'home', 'top': 73, 'height': 11, 'width': 25, 'tag': 't', 'ref': -132, 'children': [], 'left': 27}], 'left': 2}, {'top': 89, 'height': 11, 'width': 46, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 88, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch2', 'classes': '', 'ref': 6, 'children': [], 'left': 4}, {'text': 'calm', 'top': 89, 'height': 11, 'width': 21, 'tag': 't', 'ref': -133, 'children': [], 'left': 27}], 'left': 2}, {'top': 106, 'height': 11, 'width': 59, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 105, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch3', 'classes': '', 'ref': 8, 'children': [], 'left': 4}, {'text': 'comical', 'top': 106, 'height': 11, 'width': 33, 'tag': 't', 'ref': -134, 'children': [], 'left': 27}], 'left': 2}, {'top': 123, 'height': 11, 'width': 39, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 121, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch4', 'classes': '', 'ref': 10, 'children': [], 'left': 4}, {'text': 'fire', 'top': 123, 'height': 11, 'width': 13, 'tag': 't', 'ref': -135, 'children': [], 'left': 27}], 'left': 2}], 'left': 2}, {'text': 'Submit', 'top': 146, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'recordingTarget': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 29, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 30, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 31, 'children': [{'top': 242, 'height': 15, 'width': 233, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 32, 'children': [{'text': 'TASK: CLICK-CHECKBOXES-SOFT', 'top': 242, 'height': 15, 'width': 233, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 33, 'children': [], 'left': 233}], 'left': 233}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 34, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 35, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 36, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 38, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 39, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 40, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 41, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 42, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 43, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 44, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 8,236 |
Enter the value of Religion into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 39, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 40, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 41, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 42, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 2, 'children': [{'text': 'First name', 'top': 57, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': 'Gilly', 'top': 57, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 82}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Last name', 'top': 71, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': 'Osborne', 'top': 71, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 82}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Country', 'top': 85, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 7}, {'text': 'Peru', 'top': 85, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 82}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Gender', 'top': 99, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'Female', 'top': 99, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 82}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Religion', 'top': 113, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 7}, {'text': 'Buddhism', 'top': 113, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 82}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 59, 'children': [{'text': '', 'top': 133, 'value': 'Buddhism', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'tt', 'classes': '', 'ref': 60, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'focused': 1, 'recordingTarget': 1, 'id': 'subbtn', 'tampered': 1, 'classes': 'secondary-action', 'ref': 61, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 62, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 63, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 64, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 65, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 66, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 67, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 68, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 69, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 70, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 71, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 72, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 73, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 74, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 75, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 76, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 573 |
Find the email by Zelma and forward that email to Geneva.
{'top': 0, 'height': 210, 'width': 1536, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 165, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 161, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 70, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 71, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 72, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 73, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 39, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 74, 'children': [{'top': 73, 'height': 23, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 75, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 76, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Gen', 'height': 18, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 77, 'children': [], 'left': 19}], 'left': 2}, {'top': 96, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 78, 'children': [{'text': 'subject:', 'top': 98, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 79, 'children': [], 'left': 4}, {'text': 'Ultricies.', 'top': 98, 'height': 11, 'width': 38, 'tag': 't', 'ref': -33, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 112, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 80, 'children': [{'text': '', 'top': 112, 'value': 'Mauris urna, turpis lectus. Velit tincidunt.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 81, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 35, 'children': [{'top': 242, 'height': 84, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 36, 'children': [{'top': 242, 'height': 16, 'width': 214, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD', 'top': 242, 'height': 16, 'width': 214, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 242}], 'left': 242}, {'top': 259, 'height': 66, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 39, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 259, 'height': 66, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 362, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 41, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 42, 'children': [], 'left': 48}, {'text': '', 'top': 384, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 43, 'children': [], 'left': 48}, {'text': '', 'top': 406, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 44, 'children': [], 'left': 48}, {'text': '', 'top': 428, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 45, 'children': [], 'left': 48}, {'text': '', 'top': 450, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 46, 'children': [], 'left': 48}, {'text': '', 'top': 486, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 47, 'children': [], 'left': 0}, {'text': '', 'top': 516, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 48, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 516, 'height': 22, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 49, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:118
| 144 |
Click the button in the dialog box labeled "OK".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'text': '', 'top': 50, 'height': 104, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 4, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 16, 'width': 156, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 16, 'width': 156, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 272}], 'left': 272}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 3}], 'left': 3}], 'left': 0}, {'top': 373, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 10, 'children': [{'text': '', 'top': 373, 'value': 'Focus on th', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 11, 'children': [], 'left': 48}, {'text': '', 'top': 395, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 48}, {'text': '', 'top': 417, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 439, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 461, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 16, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 17, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 22, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 0}], 'left': 0}, {'top': 49, 'height': 156, 'width': 124, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 19, 'children': [{'top': 52, 'height': 21, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 20, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 99, 'tag': 'SPAN', 'id': 'ui-id-1', 'classes': 'ui-dialog-title', 'ref': 21, 'children': [], 'left': 14}, {'top': 53, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 22, 'children': [{'text': '', 'top': 55, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 23, 'children': [], 'left': 106}, {'text': 'Close', 'top': 56, 'height': 13, 'width': 26, 'tag': 't', 'ref': -72, 'children': [], 'left': -4898}], 'left': 104}], 'left': 10}, {'top': 73, 'height': 82, 'width': 118, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 24, 'children': [{'text': 'Aliquam cras tellus pellentesque malesuada imperdiet. Egestas.', 'top': 88, 'height': 52, 'width': 98, 'tag': 'P', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 20}], 'left': 10}, {'top': 160, 'height': 42, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 26, 'children': [{'top': 164, 'height': 33, 'width': 100, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 27, 'children': [{'text': 'Cancel', 'top': 169, 'height': 23, 'width': 55, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 28, 'children': [], 'left': 18}, {'text': 'OK', 'top': 169, 'height': 23, 'width': 37, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 29, 'children': [], 'left': 77}], 'left': 18}], 'left': 10}, {'text': '', 'top': 50, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 30, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 31, 'children': [], 'left': 128}, {'text': '', 'top': 202, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 32, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 33, 'children': [], 'left': 8}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 34, 'children': [], 'left': 123}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 35, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 36, 'children': [], 'left': 123}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 37, 'children': [], 'left': 8}], 'left': 7}], 'left': 0}
|
keypress:101
| 7,220 |
Enter 5:55 AM as the time and press submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 55, 'height': 61, 'width': 150, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 57, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 20, 'width': 105, 'tag': 'INPUT_time', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 87, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 7}], 'left': 7}], 'left': 5}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 131, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TIME', 'top': 242, 'height': 15, 'width': 131, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 284}], 'left': 284}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
{}
| 17,123 |
Enter the username "dannie" and the password "exdR" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 8, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 9, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 10, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 12, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'dannie', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'username', 'classes': '', 'ref': 13, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 15, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': '', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'recordingTarget': 1, 'id': 'password', 'tampered': 1, 'classes': '', 'ref': 16, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 643 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -1415, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -1416, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -1417, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -1418, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -1419, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -1420, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -1421, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please cl', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 3,822 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -8450, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -8451, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -8452, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -8453, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -8454, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -8455, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -8456, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please select either "Tab #1" or "Tab #2" where you find the link mentioned in the Yellow', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 4,827 |
Look for the email from Alvinia and forward to Manda.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 64, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 65, 'children': [{'top': 50, 'height': 162, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 66, 'children': [{'top': 52, 'height': 158, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 52, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 53, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 54, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 55, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 36, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 56, 'children': [{'top': 73, 'height': 19, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 57, 'children': [{'text': 'to:', 'top': 77, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Man', 'height': 14, 'width': 122, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 59, 'children': [], 'left': 19}], 'left': 2}, {'top': 92, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 60, 'children': [{'text': 'subject:', 'top': 94, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 61, 'children': [], 'left': 4}, {'text': 'Viverra.', 'top': 94, 'height': 11, 'width': 34, 'tag': 't', 'ref': -28, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 109, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 62, 'children': [{'text': '', 'top': 109, 'value': 'Semper pretium eget arcu. Viverra pellentesque eleifend accumsan.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 63, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 79, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 80, 'children': [{'top': 242, 'height': 15, 'width': 238, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 81, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD-NL', 'top': 242, 'height': 15, 'width': 238, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 82, 'children': [], 'left': 230}], 'left': 230}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 83, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 84, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 85, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 86, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 87, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 88, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 89, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 90, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 91, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 92, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 93, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 3,588 |
Select Martelle from the list and click Submit.
{'top': 0, 'height': 210, 'width': 924, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 59, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 18, 'width': 150, 'tag': 'SELECT', 'recordingTarget': 1, 'id': 'options', 'classes': '', 'ref': 4, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 80, 'height': 27, 'width': 87, 'tag': 'BUTTON', 'id': '', 'classes': 'secondary-action', 'ref': 5, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 6, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'TASK: CHOOSE-LIST', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 279}], 'left': 279}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 10, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 11, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 125, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 12, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 99}, {'text': '', 'top': 376, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 395, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 414, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 433, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 466, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 18, 'children': [], 'left': 0}, {'text': '', 'top': 496, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 19, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 501, 'height': 18, 'width': 84, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 22,731 |
Select -2 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '0', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': 'Utilize the up and down arrows in the white text box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Use the arrows to select the number that is written in the yellow box above', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'If the number is positive, you should use the up arrow until you select the number written in the yellow box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': 'If the number is negative, you should use the down arrow until you select the number written in the yellow box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': 'Click on th', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:101
| 3,099 |
Enter 07/01/2014 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 55, 'height': 61, 'width': 150, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 57, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '0201-07-01', 'height': 20, 'width': 125, 'tag': 'INPUT_date', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 87, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 7}], 'left': 7}], 'left': 5}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 134, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-DATE', 'top': 242, 'height': 15, 'width': 134, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 5,787 |
Enter the value of Color into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 18, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 19, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 20, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 2, 'children': [{'text': 'Color', 'top': 57, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': 'pink', 'top': 57, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 73}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Year of Birth', 'top': 71, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': '1943', 'top': 71, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 73}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Gender', 'top': 85, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 7}, {'text': 'Female', 'top': 85, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 73}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Language', 'top': 99, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'Telugu', 'top': 99, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 73}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Country', 'top': 113, 'height': 14, 'width': 66, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 7}, {'text': 'French Guiana', 'top': 113, 'height': 14, 'width': 81, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 73}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 37, 'children': [{'text': '', 'top': 133, 'value': 'pink', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 38, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 39, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 40, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 41, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 43, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 45, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 49, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 50, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 52, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 53, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 54, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 24,048 |
Book the shortest one-way flight from: SDF to: Portsmouth, NH on 11/21/2016.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 160, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 60, 'height': 139, 'width': 156, 'tag': 'DIV', 'id': 'menu', 'classes': '', 'ref': 4, 'children': [{'text': 'Book Your One-Way Flight', 'top': 60, 'height': 11, 'width': 154, 'tag': 'H2', 'id': 'header-book', 'classes': '', 'ref': 5, 'children': [], 'left': 4}, {'top': 79, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 6, 'children': [{'text': '', 'top': 81, 'value': 'Louisville, KY (SDF)', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'flight-from', 'classes': 'flight-input ui-autocomplete-input', 'ref': 7, 'children': [], 'left': 4}], 'left': 2}, {'top': 102, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 8, 'children': [{'text': '', 'top': 104, 'value': 'Portsmouth, NH (PSM)', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'flight-to', 'classes': 'flight-input ui-autocomplete-input', 'ref': 9, 'children': [], 'left': 4}], 'left': 2}, {'top': 140, 'height': 35, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'departure-container', 'ref': 10, 'children': [{'text': 'Departure Date', 'top': 140, 'height': 15, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'departure-header', 'ref': 11, 'children': [], 'left': 2}, {'top': 155, 'height': 20, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 12, 'children': [{'text': '', 'top': 157, 'value': '', 'height': 16, 'width': 106, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'datepicker', 'tampered': 1, 'classes': 'flight-input hasDatepicker', 'ref': 13, 'children': [], 'left': 12}], 'left': 2}], 'left': 2}, {'top': 178, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'search-container', 'ref': 14, 'children': [{'text': 'Search', 'top': 180, 'height': 17, 'width': 126, 'tag': 'BUTTON', 'id': 'search', 'classes': '', 'ref': 15, 'children': [], 'left': 4}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 16, 'children': [{'top': 228, 'height': 64, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 228, 'height': 15, 'width': 213, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': 'TASK: BOOK-FLIGHT-NODELAY', 'top': 228, 'height': 15, 'width': 213, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 643}], 'left': 643}, {'top': 244, 'height': 47, 'width': 698, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface as much as you like to learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. You may use as many steps as you feel appropriate', 'top': 244, 'height': 47, 'width': 698, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 400}], 'left': 400}], 'left': 400}, {'top': 327, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 22, 'children': [{'text': '', 'top': 327, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 499}, {'text': '', 'top': 345, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 24, 'children': [], 'left': 499}, {'text': '', 'top': 364, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 499}, {'text': '', 'top': 383, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 499}, {'text': '', 'top': 401, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 499}, {'text': '', 'top': 420, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 28, 'children': [], 'left': 400}, {'text': '', 'top': 436, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 29, 'children': [], 'left': 988}], 'left': 400}, {'text': 'Add new step', 'top': 436, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 30, 'children': [], 'left': 400}], 'left': 400}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 31, 'children': [{'text': 'Louisville, KY (SDF)', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 791, 'children': [], 'left': -1}], 'left': -1}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 32, 'children': [{'text': 'Portsmouth, NH (PSM)', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 1382, 'children': [], 'left': -1}], 'left': -1}, {'top': 50, 'height': 104, 'width': 123, 'tag': 'DIV', 'id': 'ui-datepicker-div', 'classes': 'ui-datepicker ui-widget ui-widget-content ui-helper-clearfix ui-corner-all', 'ref': 1383, 'children': [{'top': 52, 'height': 16, 'width': 119, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-header ui-widget-header ui-helper-clearfix ui-corner-all', 'ref': 1384, 'children': [{'top': 55, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-prev ui-corner-all', 'ref': 1385, 'children': [{'text': 'Prev', 'top': 54, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-w', 'ref': 1386, 'children': [], 'left': 15}], 'left': 17}, {'top': 55, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-next ui-corner-all ui-state-disabled', 'ref': 1387, 'children': [{'text': 'Next', 'top': 54, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-e', 'ref': 1388, 'children': [], 'left': 116}], 'left': 117}, {'top': 55, 'height': 12, 'width': 84, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-title', 'ref': 1389, 'children': [{'text': 'December', 'top': 57, 'height': 8, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-month', 'ref': 1390, 'children': [], 'left': 48}, {'text': '2016', 'top': 57, 'height': 8, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-year', 'ref': 1391, 'children': [], 'left': 84}], 'left': 31}], 'left': 14}, {'top': 69, 'height': 82, 'width': 118, 'tag': 'TABLE', 'id': '', 'classes': 'ui-datepicker-calendar', 'ref': 1392, 'children': [{'top': 69, 'height': 15, 'width': 118, 'tag': 'THEAD', 'id': '', 'classes': '', 'ref': 1393, 'children': [{'top': 69, 'height': 15, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1394, 'children': [{'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 1395, 'children': [{'text': 'Su', 'top': 73, 'height': 7, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1396, 'children': [], 'left': 18}], 'left': 14}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1397, 'children': [{'text': 'Mo', 'top': 73, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1398, 'children': [], 'left': 34}], 'left': 31}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1399, 'children': [{'text': 'Tu', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1400, 'children': [], 'left': 52}], 'left': 47}, {'top': 69, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1401, 'children': [{'text': 'We', 'top': 73, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1402, 'children': [], 'left': 68}], 'left': 64}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1403, 'children': [{'text': 'Th', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1404, 'children': [], 'left': 85}], 'left': 81}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 1405, 'children': [{'text': 'Fr', 'top': 73, 'height': 7, 'width': 6, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1406, 'children': [], 'left': 103}], 'left': 98}, {'top': 69, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 1407, 'children': [{'text': 'Sa', 'top': 73, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1408, 'children': [], 'left': 120}], 'left': 115}], 'left': 14}], 'left': 14}, {'top': 85, 'height': 66, 'width': 118, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 1409, 'children': [{'top': 85, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1410, 'children': [{'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1411, 'children': [], 'left': 14}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1412, 'children': [], 'left': 31}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1413, 'children': [], 'left': 47}, {'text': '', 'top': 85, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 1414, 'children': [], 'left': 64}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1415, 'children': [{'text': '1', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1416, 'children': [], 'left': 82}], 'left': 81}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1417, 'children': [{'text': '2', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1418, 'children': [], 'left': 99}], 'left': 98}, {'top': 85, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1419, 'children': [{'text': '3', 'top': 85, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1420, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 98, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1421, 'children': [{'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1422, 'children': [{'text': '4', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1423, 'children': [], 'left': 15}], 'left': 14}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1424, 'children': [{'text': '5', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1425, 'children': [], 'left': 32}], 'left': 31}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1426, 'children': [{'text': '6', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1427, 'children': [], 'left': 48}], 'left': 47}, {'top': 98, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1428, 'children': [{'text': '7', 'top': 99, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1429, 'children': [], 'left': 65}], 'left': 64}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1430, 'children': [{'text': '8', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1431, 'children': [], 'left': 82}], 'left': 81}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1432, 'children': [{'text': '9', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1433, 'children': [], 'left': 99}], 'left': 98}, {'top': 98, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1434, 'children': [{'text': '10', 'top': 99, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1435, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 111, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1436, 'children': [{'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1437, 'children': [{'text': '11', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1438, 'children': [], 'left': 15}], 'left': 14}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1439, 'children': [{'text': '12', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1440, 'children': [], 'left': 32}], 'left': 31}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1441, 'children': [{'text': '13', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1442, 'children': [], 'left': 48}], 'left': 47}, {'top': 111, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1443, 'children': [{'text': '14', 'top': 112, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1444, 'children': [], 'left': 65}], 'left': 64}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1445, 'children': [{'text': '15', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1446, 'children': [], 'left': 82}], 'left': 81}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1447, 'children': [{'text': '16', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1448, 'children': [], 'left': 99}], 'left': 98}, {'top': 111, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1449, 'children': [{'text': '17', 'top': 112, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1450, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 125, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1451, 'children': [{'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1452, 'children': [{'text': '18', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1453, 'children': [], 'left': 15}], 'left': 14}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1454, 'children': [{'text': '19', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1455, 'children': [], 'left': 32}], 'left': 31}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1456, 'children': [{'text': '20', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1457, 'children': [], 'left': 48}], 'left': 47}, {'top': 125, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1458, 'children': [{'text': '21', 'top': 125, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1459, 'children': [], 'left': 65}], 'left': 64}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1460, 'children': [{'text': '22', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1461, 'children': [], 'left': 82}], 'left': 81}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1462, 'children': [{'text': '23', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1463, 'children': [], 'left': 99}], 'left': 98}, {'top': 125, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1464, 'children': [{'text': '24', 'top': 125, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1465, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}, {'top': 138, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 1466, 'children': [{'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 1467, 'children': [{'text': '25', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1468, 'children': [], 'left': 15}], 'left': 14}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1469, 'children': [{'text': '26', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1470, 'children': [], 'left': 32}], 'left': 31}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1471, 'children': [{'text': '27', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1472, 'children': [], 'left': 48}], 'left': 47}, {'top': 138, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1473, 'children': [{'text': '28', 'top': 139, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1474, 'children': [], 'left': 65}], 'left': 64}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1475, 'children': [{'text': '29', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1476, 'children': [], 'left': 82}], 'left': 81}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 1477, 'children': [{'text': '30', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 1478, 'children': [], 'left': 99}], 'left': 98}, {'top': 138, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-days-cell-over ', 'ref': 1479, 'children': [{'text': '31', 'top': 139, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default ui-state-hover', 'ref': 1480, 'children': [], 'left': 116}], 'left': 115}], 'left': 14}], 'left': 14}], 'left': 14}], 'left': 12}], 'left': 0}
|
click
| 15,579 |
Select -2 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '0', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': 'Utilize the up and down arrows in the white text box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Use the arrows to select the number that is written in the yellow box above', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'If the number is positive, you should use the up arrow until you select the number w', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:114
| 2,657 |
Find the email by Louella and click the trash icon to delete it.
{'top': 0, 'height': 210, 'width': 1065, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 154, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 150, 'width': 155, 'tag': 'DIV', 'id': 'search', 'classes': '', 'ref': 50, 'children': [{'top': 52, 'height': 20, 'width': 146, 'tag': 'DIV', 'id': 'search-bar', 'classes': '', 'ref': 51, 'children': [{'top': 52, 'height': 20, 'width': 146, 'tag': 'DIV', 'id': 'search-header', 'classes': '', 'ref': 52, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'search-cancel', 'classes': '', 'ref': 53, 'children': [], 'left': 5}, {'top': 56, 'height': 11, 'width': 120, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 54, 'children': [{'text': '', 'top': 52, 'value': 'lo', 'height': 17, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'search-input', 'classes': '', 'ref': 55, 'children': [], 'left': 22}], 'left': 22}], 'left': 2}], 'left': 2}, {'top': 72, 'height': 16, 'width': 146, 'tag': 'DIV', 'id': 'results-header', 'classes': '', 'ref': 56, 'children': [{'text': 'Results', 'top': 75, 'height': 9, 'width': 126, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 57, 'children': [], 'left': 12}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 35, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 36, 'children': [{'top': 242, 'height': 15, 'width': 198, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'TASK: EMAIL-INBOX-DELETE', 'top': 242, 'height': 15, 'width': 198, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 250}], 'left': 250}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 39, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 137, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 41, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 42, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 43, 'children': [], 'left': 48}, {'text': '', 'top': 400, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 44, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 45, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 46, 'children': [], 'left': 48}, {'text': '', 'top': 478, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 47, 'children': [], 'left': 0}, {'text': '', 'top': 508, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 48, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 508, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 49, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 6,135 |
Enter the value of Country into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 4, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'Color', 'top': 57, 'height': 14, 'width': 90, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 7}, {'text': 'red', 'top': 57, 'height': 14, 'width': 57, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 97}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'Year of Birth', 'top': 71, 'height': 14, 'width': 90, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 7}, {'text': '1992', 'top': 71, 'height': 14, 'width': 57, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 11, 'children': [], 'left': 97}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 12, 'children': [{'text': 'Country', 'top': 85, 'height': 14, 'width': 90, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 7}, {'text': 'Finland', 'top': 85, 'height': 14, 'width': 57, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 97}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Gender', 'top': 99, 'height': 14, 'width': 90, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 7}, {'text': 'Male', 'top': 99, 'height': 14, 'width': 57, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 97}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': 'First name', 'top': 113, 'height': 14, 'width': 90, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 7}, {'text': 'Myrtia', 'top': 113, 'height': 14, 'width': 57, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 97}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 21, 'children': [{'text': '', 'top': 133, 'value': 'Fi', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 22, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 23, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 24, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 25, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 26, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 27, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 30, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 32, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 36, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 37, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 18,633 |
Select -2 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '0', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 156, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': 'Utilize the up and down arrows in the white text box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Use the arrows to select the number that is written in the yellow box above', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'If the number is positive, you should use the up arrow until you select the number written in the yellow box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': 'If the number is negative, you should use the down arrow until you select the number written in the yellow box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': 'Click on the submit button below the white box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'top': 462, 'height': 21, 'width': 700, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 1, 'children': [{'text': '', 'top': 462, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': '', 'classes': '', 'ref': 2, 'children': [], 'left': 48}], 'left': 0}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'tampered': 1, 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 3,308 |
Copy the text from the 2nd text area below and paste it into the text input, then press Submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 154, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 52, 'value': 'Egestas. Sed eget suspendisse. Mattis venenatis ', 'height': 31, 'width': 71, 'tag': 'TEXTAREA', 'id': 'text-1', 'classes': '', 'ref': 4, 'children': [], 'left': 2}, {'text': '', 'top': 85, 'value': 'Aliquam. Nibh cum. Orci purus sed pellentesque tristique. Eu, ', 'height': 31, 'width': 91, 'tag': 'TEXTAREA', 'recordingTarget': 1, 'id': 'text-2', 'classes': '', 'ref': 5, 'children': [], 'left': 2}, {'text': '', 'top': 118, 'value': 'Donec sit aenean. Dictum vel mauris quam varius ', 'height': 31, 'width': 71, 'tag': 'TEXTAREA', 'id': 'text-3', 'classes': '', 'ref': 6, 'children': [], 'left': 2}, {'text': '', 'top': 154, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 7, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 175, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 8, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 9, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 10, 'children': [{'top': 242, 'height': 15, 'width': 147, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'TASK: COPY-PASTE-2', 'top': 242, 'height': 15, 'width': 147, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 276}], 'left': 276}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 153, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 15, 'children': [{'text': '', 'top': 360, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 384, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 409, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 434, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 458, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 494, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 21, 'children': [], 'left': 0}, {'text': '', 'top': 524, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 22, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 524, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 22,574 |
Select 8 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '6', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'focused': 1, 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'tampered': 1, 'recordingTarget': 1, 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 24,405 |
Search for surreal movies directed by Henderson from year 1994.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 125, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Movie Search', 'top': 62, 'height': 14, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'title-div', 'ref': 4, 'children': [], 'left': 2}, {'top': 81, 'height': 68, 'width': 144, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 81, 'height': 68, 'width': 144, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 6, 'children': [{'top': 83, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Year', 'top': 83, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 9}, {'top': 83, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 83, 'value': '1994', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'focused': 1, 'id': '', 'tampered': 1, 'classes': '', 'ref': 10, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 105, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Director', 'top': 105, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 9}, {'top': 105, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 105, 'value': '', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'recordingTarget': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 127, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Genre', 'top': 127, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 9}, {'top': 127, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 127, 'value': '', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}], 'left': 7}], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 17, 'width': 56, 'tag': 'DIV', 'id': '', 'classes': 'final', 'ref': 19, 'children': [], 'left': 52}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 20, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 21, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'TASK: MULTI-ORDERINGS', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 26, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 32, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 33, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 34, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 5,960 |
Select 12/05/2016 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 99, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 100, 'children': [{'top': 50, 'height': 60, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 101, 'children': [{'top': 52, 'height': 18, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 102, 'children': [{'text': 'Date:', 'top': 56, 'height': 11, 'width': 26, 'tag': 't', 'ref': -6, 'children': [], 'left': 2}, {'text': '', 'top': 52, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'datepicker', 'classes': 'hasDatepicker', 'ref': 103, 'children': [], 'left': 28}], 'left': 2}, {'text': 'Submit', 'top': 82, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 104, 'children': [], 'left': 27}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 105, 'children': [{'top': 228, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 106, 'children': [{'top': 228, 'height': 15, 'width': 190, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 107, 'children': [{'text': 'TASK: CHOOSE-DATE-EASY', 'top': 228, 'height': 15, 'width': 190, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 108, 'children': [], 'left': 254}], 'left': 254}, {'top': 244, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 109, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 244, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 110, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 343, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 111, 'children': [{'text': '', 'top': 343, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 112, 'children': [], 'left': 99}, {'text': '', 'top': 361, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 113, 'children': [], 'left': 99}, {'text': '', 'top': 380, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 114, 'children': [], 'left': 99}, {'text': '', 'top': 399, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 115, 'children': [], 'left': 99}, {'text': '', 'top': 417, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 116, 'children': [], 'left': 99}, {'text': '', 'top': 436, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 117, 'children': [], 'left': 0}, {'text': '', 'top': 452, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 118, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 452, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 119, 'children': [], 'left': 0}], 'left': 0}, {'top': 71, 'height': 104, 'width': 123, 'tag': 'DIV', 'id': 'ui-datepicker-div', 'classes': 'ui-datepicker ui-widget ui-widget-content ui-helper-clearfix ui-corner-all', 'ref': 1, 'children': [{'top': 73, 'height': 16, 'width': 119, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-header ui-widget-header ui-helper-clearfix ui-corner-all', 'ref': 2, 'children': [{'top': 76, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-prev ui-corner-all ui-state-disabled', 'ref': 3, 'children': [{'text': 'Prev', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-w', 'ref': 4, 'children': [], 'left': 32}], 'left': 34}, {'top': 76, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-next ui-corner-all ui-state-disabled', 'ref': 5, 'children': [{'text': 'Next', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-e', 'ref': 6, 'children': [], 'left': 132}], 'left': 134}, {'top': 75, 'height': 12, 'width': 84, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-title', 'ref': 7, 'children': [{'text': 'December', 'top': 77, 'height': 8, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-month', 'ref': 8, 'children': [], 'left': 64}, {'text': '2016', 'top': 77, 'height': 8, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-year', 'ref': 9, 'children': [], 'left': 100}], 'left': 48}], 'left': 31}, {'top': 90, 'height': 82, 'width': 118, 'tag': 'TABLE', 'id': '', 'classes': 'ui-datepicker-calendar', 'ref': 10, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'THEAD', 'id': '', 'classes': '', 'ref': 11, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 13, 'children': [{'text': 'Su', 'top': 94, 'height': 7, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 35}], 'left': 31}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Mo', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 51}], 'left': 47}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': 'Tu', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 69}], 'left': 64}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 19, 'children': [{'text': 'We', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 84}], 'left': 81}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 21, 'children': [{'text': 'Th', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [], 'left': 102}], 'left': 97}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 23, 'children': [{'text': 'Fr', 'top': 94, 'height': 7, 'width': 6, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [], 'left': 120}], 'left': 115}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 25, 'children': [{'text': 'Sa', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 137}], 'left': 132}], 'left': 31}], 'left': 31}, {'top': 105, 'height': 66, 'width': 118, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 105, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 29, 'children': [], 'left': 31}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 30, 'children': [], 'left': 47}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 31, 'children': [], 'left': 64}, {'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 32, 'children': [], 'left': 81}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 33, 'children': [{'text': '1', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 34, 'children': [], 'left': 98}], 'left': 97}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 35, 'children': [{'text': '2', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 36, 'children': [], 'left': 116}], 'left': 115}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 37, 'children': [{'text': '3', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 38, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 118, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 39, 'children': [{'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 40, 'children': [{'text': '4', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 41, 'children': [], 'left': 32}], 'left': 31}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 42, 'children': [{'text': '5', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 43, 'children': [], 'left': 48}], 'left': 47}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 44, 'children': [{'text': '6', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 45, 'children': [], 'left': 65}], 'left': 64}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 46, 'children': [{'text': '7', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 47, 'children': [], 'left': 82}], 'left': 81}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 48, 'children': [{'text': '8', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 49, 'children': [], 'left': 98}], 'left': 97}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 50, 'children': [{'text': '9', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 51, 'children': [], 'left': 116}], 'left': 115}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 52, 'children': [{'text': '10', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 53, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 132, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 54, 'children': [{'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 55, 'children': [{'text': '11', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 56, 'children': [], 'left': 32}], 'left': 31}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 57, 'children': [{'text': '12', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 58, 'children': [], 'left': 48}], 'left': 47}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 59, 'children': [{'text': '13', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 60, 'children': [], 'left': 65}], 'left': 64}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 61, 'children': [{'text': '14', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 62, 'children': [], 'left': 82}], 'left': 81}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 63, 'children': [{'text': '15', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 64, 'children': [], 'left': 98}], 'left': 97}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 65, 'children': [{'text': '16', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 66, 'children': [], 'left': 116}], 'left': 115}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 67, 'children': [{'text': '17', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 68, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 145, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 69, 'children': [{'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 70, 'children': [{'text': '18', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 71, 'children': [], 'left': 32}], 'left': 31}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 72, 'children': [{'text': '19', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 73, 'children': [], 'left': 48}], 'left': 47}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 74, 'children': [{'text': '20', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 75, 'children': [], 'left': 65}], 'left': 64}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 76, 'children': [{'text': '21', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 77, 'children': [], 'left': 82}], 'left': 81}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 78, 'children': [{'text': '22', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 79, 'children': [], 'left': 98}], 'left': 97}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 80, 'children': [{'text': '23', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 81, 'children': [], 'left': 116}], 'left': 115}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 82, 'children': [{'text': '24', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 83, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 158, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 84, 'children': [{'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 85, 'children': [{'text': '25', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 86, 'children': [], 'left': 32}], 'left': 31}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 87, 'children': [{'text': '26', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 88, 'children': [], 'left': 48}], 'left': 47}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 89, 'children': [{'text': '27', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 90, 'children': [], 'left': 65}], 'left': 64}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 91, 'children': [{'text': '28', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 92, 'children': [], 'left': 82}], 'left': 81}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 93, 'children': [{'text': '29', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 94, 'children': [], 'left': 98}], 'left': 97}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 95, 'children': [{'text': '30', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 96, 'children': [], 'left': 116}], 'left': 115}, {'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-days-cell-over ', 'ref': 97, 'children': [{'text': '31', 'top': 159, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default ui-state-hover', 'ref': 98, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}], 'left': 31}], 'left': 31}], 'left': 28}], 'left': 0}
|
click
| 21,287 |
Enter the value of Religion into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 18, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 19, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 20, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 2, 'children': [{'text': 'First name', 'top': 57, 'height': 14, 'width': 86, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': 'Mae', 'top': 57, 'height': 14, 'width': 61, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 93}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Color', 'top': 71, 'height': 14, 'width': 86, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': 'silver', 'top': 71, 'height': 14, 'width': 61, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 93}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Language', 'top': 85, 'height': 14, 'width': 86, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 7}, {'text': 'Korean', 'top': 85, 'height': 14, 'width': 61, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 93}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Religion', 'top': 99, 'height': 14, 'width': 86, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'Judaism', 'top': 99, 'height': 14, 'width': 61, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 93}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Year of Birth', 'top': 113, 'height': 14, 'width': 86, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 7}, {'text': '2004', 'top': 113, 'height': 14, 'width': 61, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 93}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 37, 'children': [{'text': '', 'top': 133, 'value': 'Judai', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 38, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 39, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 40, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 41, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 43, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 45, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 49, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 50, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 52, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 53, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 54, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 418 |
Switch between the tabs to find and click on the link "Tincidunt".
{'top': 0, 'height': 210, 'width': 1055, 'tag': 'BODY', 'id': '', 'classes': ' hasGoogleVoiceExt', 'ref': 8, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 9, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 10, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-4', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 4, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Vitae, purus mollis nisi.', 'top': 103, 'height': 11, 'width': 102, 'tag': 't', 'ref': -2479, 'children': [], 'left': 19}, {'text': 'Risus mauris', 'top': 115, 'height': 11, 'width': 60, 'tag': 't', 'ref': -2480, 'children': [], 'left': 19}, {'text': 'aenean', 'top': 115, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 6, 'children': [], 'left': 79}, {'text': 'senectus.', 'top': 126, 'height': 11, 'width': 42, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 7, 'children': [], 'left': 19}, {'text': 'Velit eu urna', 'top': 126, 'height': 11, 'width': 58, 'tag': 't', 'ref': -2481, 'children': [], 'left': 61}, {'text': 'pellentesque sed. Sodales', 'top': 137, 'height': 11, 'width': 117, 'tag': 't', 'ref': -2482, 'children': [], 'left': 19}, {'text': 'laoreet blandit.', 'top': 149, 'height': 11, 'width': 68, 'tag': 't', 'ref': -2483, 'children': [], 'left': 19}, {'text': 'Tincidunt', 'top': 149, 'height': 11, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 87}, {'text': 'aliquet. Magna nullam.', 'top': 160, 'height': 11, 'width': 100, 'tag': 't', 'ref': -2484, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2-EASY', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 136, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': 'Find the word in quotations in the yellow instruction box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Sca', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 477, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 507, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 507, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 9,294 |
Enter "Riley" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 88, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 67, 'height': 69, 'width': 138, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 67, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 20}, {'text': 'Submit', 'top': 105, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 20}], 'left': 20}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 25,441 |
send Evvy the email from Robbin
{'top': 0, 'height': 210, 'width': 1600, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 73, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 74, 'children': [{'top': 50, 'height': 154, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 75, 'children': [{'top': 52, 'height': 150, 'width': 155, 'tag': 'DIV', 'recordingTarget': 1, 'id': 'main', 'classes': '', 'ref': 1, 'children': [{'top': -121, 'height': 21, 'width': 138, 'tag': 'DIV', 'id': 'main-header', 'classes': '', 'ref': 2, 'children': [{'text': 'Primary', 'top': -121, 'height': 20, 'width': 41, 'tag': 'H2', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': '', 'top': -118, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'open-search', 'classes': '', 'ref': 4, 'children': [], 'left': 120}], 'left': 2}, {'top': -100, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 5, 'children': [{'top': -98, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 6, 'children': [{'text': 'Meridith', 'top': -98, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 7, 'children': [], 'left': 7}, {'text': 'Tellus.', 'top': -86, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 8, 'children': [], 'left': 7}, {'text': 'Erat id lacus v..', 'top': -75, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 9, 'children': [], 'left': 7}], 'left': 7}, {'top': -98, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 10, 'children': [{'top': -96, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 11, 'children': [{'text': '', 'top': -93, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 12, 'children': [], 'left': 115}, {'text': '', 'top': -93, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 13, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': -61, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 14, 'children': [{'top': -59, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 15, 'children': [{'text': 'Evvy', 'top': -59, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 16, 'children': [], 'left': 7}, {'text': 'Ut faucibus.', 'top': -47, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 17, 'children': [], 'left': 7}, {'text': 'Blandit. Nunc d..', 'top': -36, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 18, 'children': [], 'left': 7}], 'left': 7}, {'top': -59, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 19, 'children': [{'top': -57, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 20, 'children': [{'text': '', 'top': -54, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 21, 'children': [], 'left': 115}, {'text': '', 'top': -54, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 22, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': -22, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 23, 'children': [{'top': -20, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 24, 'children': [{'text': 'Clari', 'top': -20, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 25, 'children': [], 'left': 7}, {'text': 'Sit. Blandit.', 'top': -8, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 26, 'children': [], 'left': 7}, {'text': 'Tristique odio ..', 'top': 3, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 27, 'children': [], 'left': 7}], 'left': 7}, {'top': -20, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 28, 'children': [{'top': -18, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 29, 'children': [{'text': '', 'top': -15, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 30, 'children': [], 'left': 115}, {'text': '', 'top': -15, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 31, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 17, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 32, 'children': [{'top': 19, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 33, 'children': [{'text': 'Nicky', 'top': 19, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 34, 'children': [], 'left': 7}, {'text': 'Pellentesque. T..', 'top': 31, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 35, 'children': [], 'left': 7}, {'text': 'Proin massa. Si..', 'top': 42, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 36, 'children': [], 'left': 7}], 'left': 7}, {'top': 19, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 37, 'children': [{'top': 21, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 38, 'children': [{'text': '', 'top': 24, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 39, 'children': [], 'left': 115}, {'text': '', 'top': 24, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 40, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 56, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 41, 'children': [{'top': 58, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 42, 'children': [{'text': 'Darryl', 'top': 58, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 43, 'children': [], 'left': 7}, {'text': 'Id orci.', 'top': 70, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 44, 'children': [], 'left': 7}, {'text': 'Arcu molestie o..', 'top': 81, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 45, 'children': [], 'left': 7}], 'left': 7}, {'top': 58, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 46, 'children': [{'top': 60, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 47, 'children': [{'text': '', 'top': 63, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 48, 'children': [], 'left': 115}, {'text': '', 'top': 63, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 49, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 95, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 50, 'children': [{'top': 97, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 51, 'children': [{'text': 'Linda', 'top': 97, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 52, 'children': [], 'left': 7}, {'text': 'Mattis. Digniss..', 'top': 109, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 53, 'children': [], 'left': 7}, {'text': 'Congue et rutru..', 'top': 120, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 54, 'children': [], 'left': 7}], 'left': 7}, {'top': 97, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 55, 'children': [{'top': 99, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 56, 'children': [{'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 57, 'children': [], 'left': 115}, {'text': '', 'top': 102, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 58, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 134, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 59, 'children': [{'top': 136, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 60, 'children': [{'text': 'Robbin', 'top': 136, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 61, 'children': [], 'left': 7}, {'text': 'Pharetra.', 'top': 148, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 62, 'children': [], 'left': 7}, {'text': 'Cras. Arcu prae..', 'top': 159, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 63, 'children': [], 'left': 7}], 'left': 7}, {'top': 136, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 64, 'children': [{'top': 138, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 65, 'children': [{'text': '', 'top': 141, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 66, 'children': [], 'left': 115}, {'text': '', 'top': 141, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 67, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 173, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 68, 'children': [{'top': 175, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 69, 'children': [{'text': 'Violette', 'top': 175, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 70, 'children': [], 'left': 7}, {'text': 'Eget.', 'top': 187, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 71, 'children': [], 'left': 7}, {'text': 'Vitae non sed n..', 'top': 198, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 72, 'children': [], 'left': 7}], 'left': 7}, {'top': 175, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 73, 'children': [{'top': 177, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 74, 'children': [{'text': '', 'top': 180, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 75, 'children': [], 'left': 115}, {'text': '', 'top': 180, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 76, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}, {'top': 212, 'height': 39, 'width': 138, 'tag': 'DIV', 'id': '', 'classes': 'email-thread', 'ref': 77, 'children': [{'top': 214, 'height': 34, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-left', 'ref': 78, 'children': [{'text': 'Dehlia', 'top': 214, 'height': 12, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 79, 'children': [], 'left': 7}, {'text': 'Viverra.', 'top': 226, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 80, 'children': [], 'left': 7}, {'text': 'Vel eget gravid..', 'top': 237, 'height': 11, 'width': 86, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 81, 'children': [], 'left': 7}], 'left': 7}, {'top': 214, 'height': 22, 'width': 34, 'tag': 'DIV', 'id': '', 'classes': 'email-right', 'ref': 82, 'children': [{'top': 216, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 83, 'children': [{'text': '', 'top': 219, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 84, 'children': [], 'left': 115}, {'text': '', 'top': 219, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 85, 'children': [], 'left': 101}], 'left': 100}], 'left': 95}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 88, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 89, 'children': [{'top': 242, 'height': 16, 'width': 281, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 90, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD-NL-TURK', 'top': 242, 'height': 16, 'width': 281, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 91, 'children': [], 'left': 209}], 'left': 209}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 92, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 93, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 94, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 95, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 96, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 97, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 98, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 99, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 100, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 101, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 102, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 11,317 |
Switch between the tabs to find and click on the link "Tincidunt".
{'top': 0, 'height': 210, 'width': 1055, 'tag': 'BODY', 'id': '', 'classes': ' hasGoogleVoiceExt', 'ref': 8, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 9, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 10, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-4', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 4, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Vitae, purus mollis nisi.', 'top': 103, 'height': 11, 'width': 102, 'tag': 't', 'ref': -3835, 'children': [], 'left': 19}, {'text': 'Risus mauris', 'top': 115, 'height': 11, 'width': 60, 'tag': 't', 'ref': -3836, 'children': [], 'left': 19}, {'text': 'aenean', 'top': 115, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 6, 'children': [], 'left': 79}, {'text': 'senectus.', 'top': 126, 'height': 11, 'width': 42, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 7, 'children': [], 'left': 19}, {'text': 'Velit eu urna', 'top': 126, 'height': 11, 'width': 58, 'tag': 't', 'ref': -3837, 'children': [], 'left': 61}, {'text': 'pellentesque sed. Sodales', 'top': 137, 'height': 11, 'width': 117, 'tag': 't', 'ref': -3838, 'children': [], 'left': 19}, {'text': 'laoreet blandit.', 'top': 149, 'height': 11, 'width': 68, 'tag': 't', 'ref': -3839, 'children': [], 'left': 19}, {'text': 'Tincidunt', 'top': 149, 'height': 11, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 87}, {'text': 'aliquet. Magna nullam.', 'top': 160, 'height': 11, 'width': 100, 'tag': 't', 'ref': -3840, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2-EASY', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 136, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': 'Find the word in quotations in the yellow instruction box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Scan the page to find the same word', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'Clic', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 477, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 507, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 507, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:107
| 9,520 |
Enter the value of Religion into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 39, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 40, 'children': [{'top': 50, 'height': 137, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 41, 'children': [{'top': 57, 'height': 71, 'width': 156, 'tag': 'DIV', 'id': 'tab', 'classes': '', 'ref': 42, 'children': [{'top': 57, 'height': 71, 'width': 148, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 57, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 2, 'children': [{'text': 'First name', 'top': 57, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 3, 'children': [], 'left': 7}, {'text': 'Gilly', 'top': 57, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 82}], 'left': 7}, {'top': 71, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Last name', 'top': 71, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': 'Osborne', 'top': 71, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 82}], 'left': 7}, {'top': 85, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Country', 'top': 85, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 7}, {'text': 'Peru', 'top': 85, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 82}], 'left': 7}, {'top': 99, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Gender', 'top': 99, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'Female', 'top': 99, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 82}], 'left': 7}, {'top': 113, 'height': 14, 'width': 147, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Religion', 'top': 113, 'height': 14, 'width': 75, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 7}, {'text': 'Buddhism', 'top': 113, 'height': 14, 'width': 72, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 82}], 'left': 7}], 'left': 7}], 'left': 2}, {'top': 133, 'height': 52, 'width': 151, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 59, 'children': [{'text': '', 'top': 133, 'value': 'B', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 60, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 61, 'children': [], 'left': 7}], 'left': 7}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 62, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 63, 'children': [{'top': 242, 'height': 16, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 64, 'children': [{'text': 'TASK: READ-TABLE', 'top': 242, 'height': 16, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 65, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 66, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 67, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 68, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 69, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 70, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 71, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 72, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 73, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 74, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 75, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 76, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:117
| 528 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -15, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -16, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -17, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -18, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -19, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -20, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -21, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please click the second tab and then click "Try New Episode"', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Then click on the Start button and please switch to Tab #2, then please click Hac, ', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 3,622 |
Find the email by Eba and reply to them with the text "Volutpat semper.".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 158, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 154, 'width': 156, 'tag': 'DIV', 'id': 'reply', 'classes': '', 'ref': 70, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'reply-bar', 'classes': '', 'ref': 71, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-reply', 'classes': '', 'ref': 80, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-reply', 'classes': '', 'ref': 81, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 32, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-header', 'ref': 72, 'children': [{'top': 73, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-info', 'ref': 73, 'children': [{'text': 'to:', 'top': 75, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': 'reply-to', 'ref': 74, 'children': [], 'left': 4}, {'text': 'Eba', 'top': 75, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'reply-sender', 'ref': 75, 'children': [], 'left': 19}], 'left': 2}, {'top': 89, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-subject', 'ref': 76, 'children': [{'text': 'subject:', 'top': 91, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': 'reply-subj', 'ref': 77, 'children': [], 'left': 4}, {'text': 'Re: Dolor lacus.', 'top': 91, 'height': 11, 'width': 71, 'tag': 't', 'ref': -57, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 105, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'reply-body', 'ref': 78, 'children': [{'text': '', 'top': 105, 'value': 'Volutp', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'focused': 1, 'recordingTarget': 1, 'id': 'reply-text', 'tampered': 1, 'classes': '', 'ref': 79, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 28, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 29, 'children': [{'top': 242, 'height': 15, 'width': 188, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'TASK: EMAIL-INBOX-REPLY', 'top': 242, 'height': 15, 'width': 188, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 255}], 'left': 255}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 32, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 33, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 34, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 38, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 39, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 40, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 41, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 42, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 20,598 |
Search for surreal movies directed by Henderson from year 1994.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 125, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Movie Search', 'top': 62, 'height': 14, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'title-div', 'ref': 4, 'children': [], 'left': 2}, {'top': 81, 'height': 68, 'width': 144, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 81, 'height': 68, 'width': 144, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 6, 'children': [{'top': 83, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Year', 'top': 83, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 9}, {'top': 83, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 83, 'value': '1994', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 105, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Director', 'top': 105, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 9}, {'top': 105, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 105, 'value': 'Henderson', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 127, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Genre', 'top': 127, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 9}, {'top': 127, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 127, 'value': 'sur', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': '', 'ref': 18, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}], 'left': 7}], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 17, 'width': 56, 'tag': 'DIV', 'id': '', 'classes': 'final', 'ref': 19, 'children': [], 'left': 52}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 20, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 21, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'TASK: MULTI-ORDERINGS', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 26, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 32, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 33, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 34, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:114
| 6,049 |
Enter the username "dannie" and the password "exdR" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 8, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 9, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 10, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 12, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'dannie', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'username', 'classes': '', 'ref': 13, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 15, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': 'e', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'recordingTarget': 1, 'id': 'password', 'tampered': 1, 'classes': '', 'ref': 16, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 648 |
Select 4uYZ4Sr, 8UHd8O, 0F6yp, 7LNO, 2wB2EI and click Submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 25, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 26, 'children': [{'top': 50, 'height': 130, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 27, 'children': [{'top': 52, 'height': 100, 'width': 65, 'tag': 'DIV', 'id': 'boxes-left', 'classes': '', 'ref': 28, 'children': [{'top': 56, 'height': 11, 'width': 50, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 29, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch0', 'classes': '', 'ref': 30, 'children': [], 'left': 4}, {'text': 'KLnH', 'top': 56, 'height': 11, 'width': 25, 'tag': 't', 'ref': -433, 'children': [], 'left': 27}], 'left': 2}, {'top': 73, 'height': 11, 'width': 63, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 31, 'children': [{'text': '', 'top': 71, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch1', 'classes': '', 'ref': 32, 'children': [], 'left': 4}, {'text': 'wFfJwPl', 'top': 73, 'height': 11, 'width': 37, 'tag': 't', 'ref': -434, 'children': [], 'left': 27}], 'left': 2}, {'top': 89, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 33, 'children': [{'text': '', 'top': 88, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch2', 'classes': '', 'ref': 34, 'children': [], 'left': 4}, {'text': '4uYZ4Sr', 'top': 89, 'height': 11, 'width': 39, 'tag': 't', 'ref': -435, 'children': [], 'left': 27}], 'left': 2}, {'top': 106, 'height': 11, 'width': 63, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 35, 'children': [{'text': '', 'top': 105, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch3', 'classes': '', 'ref': 36, 'children': [], 'left': 4}, {'text': 'EPvEKg', 'top': 106, 'height': 11, 'width': 37, 'tag': 't', 'ref': -436, 'children': [], 'left': 27}], 'left': 2}, {'top': 123, 'height': 11, 'width': 53, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': '', 'top': 121, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch4', 'classes': '', 'ref': 38, 'children': [], 'left': 4}, {'text': '0F6yp', 'top': 123, 'height': 11, 'width': 27, 'tag': 't', 'ref': -437, 'children': [], 'left': 27}], 'left': 2}, {'top': 139, 'height': 11, 'width': 64, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 39, 'children': [{'text': '', 'top': 138, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch5', 'classes': '', 'ref': 40, 'children': [], 'left': 4}, {'text': '8UHd8O', 'top': 139, 'height': 11, 'width': 38, 'tag': 't', 'ref': -438, 'children': [], 'left': 27}], 'left': 2}], 'left': 2}, {'top': 52, 'height': 100, 'width': 63, 'tag': 'DIV', 'id': 'boxes-right', 'classes': '', 'ref': 41, 'children': [{'top': 56, 'height': 11, 'width': 60, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': '', 'top': 55, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch6', 'classes': '', 'ref': 43, 'children': [], 'left': 70}, {'text': '2wB2EI', 'top': 56, 'height': 11, 'width': 34, 'tag': 't', 'ref': -439, 'children': [], 'left': 93}], 'left': 67}, {'top': 73, 'height': 11, 'width': 43, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': '', 'top': 71, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch7', 'classes': '', 'ref': 45, 'children': [], 'left': 70}, {'text': '0X3', 'top': 73, 'height': 11, 'width': 17, 'tag': 't', 'ref': -440, 'children': [], 'left': 93}], 'left': 67}, {'top': 89, 'height': 11, 'width': 63, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 88, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch8', 'classes': '', 'ref': 47, 'children': [], 'left': 70}, {'text': '8SngPju', 'top': 89, 'height': 11, 'width': 37, 'tag': 't', 'ref': -441, 'children': [], 'left': 93}], 'left': 67}, {'top': 106, 'height': 11, 'width': 56, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 48, 'children': [{'text': '', 'top': 105, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch9', 'classes': '', 'ref': 49, 'children': [], 'left': 70}, {'text': 'SbFTA', 'top': 106, 'height': 11, 'width': 30, 'tag': 't', 'ref': -442, 'children': [], 'left': 93}], 'left': 67}, {'top': 123, 'height': 11, 'width': 51, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 50, 'children': [{'text': '', 'top': 121, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch10', 'classes': '', 'ref': 51, 'children': [], 'left': 70}, {'text': '7LNO', 'top': 123, 'height': 11, 'width': 26, 'tag': 't', 'ref': -443, 'children': [], 'left': 93}], 'left': 67}, {'top': 139, 'height': 11, 'width': 60, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 52, 'children': [{'text': '', 'top': 138, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch11', 'classes': '', 'ref': 53, 'children': [], 'left': 70}, {'text': '6Dego7', 'top': 139, 'height': 11, 'width': 35, 'tag': 't', 'ref': -444, 'children': [], 'left': 93}], 'left': 67}], 'left': 67}, {'text': 'Submit', 'top': 152, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'focused': 1, 'recordingTarget': 1, 'id': 'subbtn', 'tampered': 1, 'classes': 'secondary-action', 'ref': 54, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 55, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 56, 'children': [{'top': 242, 'height': 15, 'width': 245, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 57, 'children': [{'text': 'TASK: CLICK-CHECKBOXES-LARGE', 'top': 242, 'height': 15, 'width': 245, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 227}], 'left': 227}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 59, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 60, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 61, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 62, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 63, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 64, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 65, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 66, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 67, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 68, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 69, 'children': [], 'left': 0}], 'left': 0}, {'text': 'Try New Episode', 'top': 170, 'height': 28, 'width': 150, 'tag': 'DIV', 'id': 'logging-screen', 'classes': '', 'ref': 70, 'children': [], 'left': 170}], 'left': 0}
|
click
| 907 |
Search for mystery movies directed by Knapp from year 2006.
{'top': 0, 'height': 210, 'width': 1065, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 33, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 34, 'children': [{'top': 50, 'height': 151, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 35, 'children': [{'top': 54, 'height': 39, 'width': 152, 'tag': 'DIV', 'id': '', 'classes': 'field', 'ref': 1, 'children': [{'text': 'Director Name', 'top': 57, 'height': 12, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'label', 'ref': 2, 'children': [], 'left': 12}, {'top': 69, 'height': 21, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'input', 'ref': 3, 'children': [{'text': '', 'top': 69, 'value': 'Knapp', 'height': 21, 'width': 137, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 12}], 'left': 12}], 'left': 4}, {'top': 95, 'height': 39, 'width': 152, 'tag': 'DIV', 'id': '', 'classes': 'field', 'ref': 5, 'children': [{'text': 'Movie Genre', 'top': 98, 'height': 12, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'label', 'ref': 6, 'children': [], 'left': 12}, {'top': 110, 'height': 21, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'input', 'ref': 7, 'children': [{'text': '', 'top': 110, 'value': 'mystery', 'height': 21, 'width': 137, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 12}], 'left': 12}], 'left': 4}, {'top': 136, 'height': 39, 'width': 152, 'tag': 'DIV', 'id': '', 'classes': 'field', 'ref': 9, 'children': [{'text': 'Released Date', 'top': 139, 'height': 12, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'label', 'ref': 10, 'children': [], 'left': 12}, {'top': 151, 'height': 21, 'width': 136, 'tag': 'DIV', 'id': '', 'classes': 'input', 'ref': 11, 'children': [{'text': '', 'top': 151, 'value': '2006', 'height': 21, 'width': 137, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 12}], 'left': 12}], 'left': 4}, {'top': 178, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'submit-row', 'ref': 13, 'children': [{'text': 'Go!', 'top': 178, 'height': 21, 'width': 37, 'tag': 'BUTTON', 'focused': 1, 'recordingTarget': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 61}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 50, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 51, 'children': [{'top': 242, 'height': 15, 'width': 157, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 52, 'children': [{'text': 'TASK: MULTI-LAYOUTS', 'top': 242, 'height': 15, 'width': 157, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 53, 'children': [], 'left': 271}], 'left': 271}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 54, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 55, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 137, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 56, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 57, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 58, 'children': [], 'left': 48}, {'text': '', 'top': 400, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 59, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 60, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 61, 'children': [], 'left': 48}, {'text': '', 'top': 478, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 62, 'children': [], 'left': 0}, {'text': '', 'top': 508, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 63, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 508, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 64, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 10,190 |
Enter "Agustina" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 77, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 63, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 12}, {'text': 'Submit', 'top': 94, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 12}], 'left': 12}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': 'Click on Start', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Please enter the word given in yellow color t', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 10,815 |
Select -2 with the spinner and hit Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 78, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Select a value:', 'top': 55, 'height': 11, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 5}, {'top': 66, 'height': 21, 'width': 148, 'tag': 'SPAN', 'id': '', 'classes': 'ui-spinner ui-corner-all ui-widget ui-widget-content', 'ref': 5, 'children': [{'text': '', 'top': 69, 'value': '0', 'height': 15, 'width': 122, 'tag': 'INPUT_text', 'id': 'spinner', 'classes': 'ui-spinner-input', 'ref': 6, 'children': [], 'left': 10}, {'top': 67, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-up ui-corner-tr ui-button-icon-only', 'ref': 7, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-n', 'ref': 8, 'children': [], 'left': 136}], 'left': 136}, {'top': 76, 'height': 9, 'width': 16, 'tag': 'A', 'id': '', 'classes': 'ui-button ui-widget ui-spinner-button ui-spinner-down ui-corner-br ui-button-icon-only', 'ref': 9, 'children': [{'text': '', 'top': 73, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-triangle-1-s', 'ref': 10, 'children': [], 'left': 136}], 'left': 136}], 'left': 5}, {'text': 'Submit', 'top': 92, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 16, 'width': 141, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: USE-SPINNER', 'top': 242, 'height': 16, 'width': 141, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 279}], 'left': 279}, {'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 357, 'value': 'Utilize the up and down arrows in the white text box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Use the arrows to select the number that is written in the yellow box above', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'If the number is positive, you should use the up arrow until you select the numb', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 23, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 24, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 2,629 |
Switch between the tabs to find and click on the link "Tincidunt".
{'top': 0, 'height': 210, 'width': 1055, 'tag': 'BODY', 'id': '', 'classes': ' hasGoogleVoiceExt', 'ref': 8, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 9, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 10, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-4', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 4, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Vitae, purus mollis nisi.', 'top': 103, 'height': 11, 'width': 102, 'tag': 't', 'ref': -2149, 'children': [], 'left': 19}, {'text': 'Risus mauris', 'top': 115, 'height': 11, 'width': 60, 'tag': 't', 'ref': -2150, 'children': [], 'left': 19}, {'text': 'aenean', 'top': 115, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 6, 'children': [], 'left': 79}, {'text': 'senectus.', 'top': 126, 'height': 11, 'width': 42, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 7, 'children': [], 'left': 19}, {'text': 'Velit eu urna', 'top': 126, 'height': 11, 'width': 58, 'tag': 't', 'ref': -2151, 'children': [], 'left': 61}, {'text': 'pellentesque sed. Sodales', 'top': 137, 'height': 11, 'width': 117, 'tag': 't', 'ref': -2152, 'children': [], 'left': 19}, {'text': 'laoreet blandit.', 'top': 149, 'height': 11, 'width': 68, 'tag': 't', 'ref': -2153, 'children': [], 'left': 19}, {'text': 'Tincidunt', 'top': 149, 'height': 11, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 87}, {'text': 'aliquet. Magna nullam.', 'top': 160, 'height': 11, 'width': 100, 'tag': 't', 'ref': -2154, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2-EASY', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 136, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': 'Find the word in quotations in the yellow instruction', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 477, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 507, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 507, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 9,239 |
Select 02/08/2016 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 887, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 888, 'children': [{'top': 50, 'height': 60, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 889, 'children': [{'top': 52, 'height': 18, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 890, 'children': [{'text': 'Date:', 'top': 56, 'height': 11, 'width': 26, 'tag': 't', 'ref': -36, 'children': [], 'left': 2}, {'text': '', 'top': 52, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'datepicker', 'classes': 'hasDatepicker', 'ref': 891, 'children': [], 'left': 28}], 'left': 2}, {'text': 'Submit', 'top': 82, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 892, 'children': [], 'left': 27}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 893, 'children': [{'top': 228, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 894, 'children': [{'top': 228, 'height': 15, 'width': 219, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 895, 'children': [{'text': 'TASK: CHOOSE-DATE-NODELAY', 'top': 228, 'height': 15, 'width': 219, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 896, 'children': [], 'left': 240}], 'left': 240}, {'top': 244, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 897, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 244, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 898, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 343, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 899, 'children': [{'text': '', 'top': 343, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 900, 'children': [], 'left': 99}, {'text': '', 'top': 361, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 901, 'children': [], 'left': 99}, {'text': '', 'top': 380, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 902, 'children': [], 'left': 99}, {'text': '', 'top': 399, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 903, 'children': [], 'left': 99}, {'text': '', 'top': 417, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 904, 'children': [], 'left': 99}, {'text': '', 'top': 436, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 905, 'children': [], 'left': 0}, {'text': '', 'top': 452, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 906, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 452, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 907, 'children': [], 'left': 0}], 'left': 0}, {'top': 71, 'height': 104, 'width': 123, 'tag': 'DIV', 'id': 'ui-datepicker-div', 'classes': 'ui-datepicker ui-widget ui-widget-content ui-helper-clearfix ui-corner-all', 'ref': 1, 'children': [{'top': 73, 'height': 16, 'width': 119, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-header ui-widget-header ui-helper-clearfix ui-corner-all', 'ref': 396, 'children': [{'top': 75, 'height': 14, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-prev ui-corner-all ui-state-hover ui-datepicker-prev-hover', 'ref': 397, 'children': [{'text': 'Prev', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'recordingTarget': 1, 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-w', 'ref': 398, 'children': [], 'left': 32}], 'left': 33}, {'top': 76, 'height': 12, 'width': 12, 'tag': 'A', 'id': '', 'classes': 'ui-datepicker-next ui-corner-all', 'ref': 399, 'children': [{'text': 'Next', 'top': 74, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-icon ui-icon-circle-triangle-e', 'ref': 400, 'children': [], 'left': 132}], 'left': 134}, {'top': 75, 'height': 12, 'width': 84, 'tag': 'DIV', 'id': '', 'classes': 'ui-datepicker-title', 'ref': 401, 'children': [{'text': 'August', 'top': 77, 'height': 8, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-month', 'ref': 402, 'children': [], 'left': 69}, {'text': '2016', 'top': 77, 'height': 8, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-datepicker-year', 'ref': 403, 'children': [], 'left': 95}], 'left': 48}], 'left': 31}, {'top': 90, 'height': 82, 'width': 118, 'tag': 'TABLE', 'id': '', 'classes': 'ui-datepicker-calendar', 'ref': 404, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'THEAD', 'id': '', 'classes': '', 'ref': 405, 'children': [{'top': 90, 'height': 15, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 406, 'children': [{'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 407, 'children': [{'text': 'Su', 'top': 94, 'height': 7, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 408, 'children': [], 'left': 35}], 'left': 31}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 409, 'children': [{'text': 'Mo', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 410, 'children': [], 'left': 51}], 'left': 47}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 411, 'children': [{'text': 'Tu', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 412, 'children': [], 'left': 69}], 'left': 64}, {'top': 90, 'height': 15, 'width': 16, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 413, 'children': [{'text': 'We', 'top': 94, 'height': 7, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 414, 'children': [], 'left': 84}], 'left': 81}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 415, 'children': [{'text': 'Th', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 416, 'children': [], 'left': 102}], 'left': 97}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 417, 'children': [{'text': 'Fr', 'top': 94, 'height': 7, 'width': 6, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 418, 'children': [], 'left': 120}], 'left': 115}, {'top': 90, 'height': 15, 'width': 17, 'tag': 'TH', 'id': '', 'classes': 'ui-datepicker-week-end', 'ref': 419, 'children': [{'text': 'Sa', 'top': 94, 'height': 7, 'width': 7, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 420, 'children': [], 'left': 137}], 'left': 132}], 'left': 31}], 'left': 31}, {'top': 105, 'height': 66, 'width': 118, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 421, 'children': [{'top': 105, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 422, 'children': [{'text': '', 'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 423, 'children': [], 'left': 31}, {'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 424, 'children': [{'text': '1', 'top': 106, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 425, 'children': [], 'left': 48}], 'left': 47}, {'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 426, 'children': [{'text': '2', 'top': 106, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 427, 'children': [], 'left': 65}], 'left': 64}, {'top': 105, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 428, 'children': [{'text': '3', 'top': 106, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 429, 'children': [], 'left': 82}], 'left': 81}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 430, 'children': [{'text': '4', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 431, 'children': [], 'left': 98}], 'left': 97}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 432, 'children': [{'text': '5', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 433, 'children': [], 'left': 116}], 'left': 115}, {'top': 105, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 434, 'children': [{'text': '6', 'top': 106, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 435, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 118, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 436, 'children': [{'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 437, 'children': [{'text': '7', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 438, 'children': [], 'left': 32}], 'left': 31}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 439, 'children': [{'text': '8', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 440, 'children': [], 'left': 48}], 'left': 47}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 441, 'children': [{'text': '9', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 442, 'children': [], 'left': 65}], 'left': 64}, {'top': 118, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 443, 'children': [{'text': '10', 'top': 119, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 444, 'children': [], 'left': 82}], 'left': 81}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 445, 'children': [{'text': '11', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 446, 'children': [], 'left': 98}], 'left': 97}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 447, 'children': [{'text': '12', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 448, 'children': [], 'left': 116}], 'left': 115}, {'top': 118, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 449, 'children': [{'text': '13', 'top': 119, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 450, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 132, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 451, 'children': [{'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 452, 'children': [{'text': '14', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 453, 'children': [], 'left': 32}], 'left': 31}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 454, 'children': [{'text': '15', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 455, 'children': [], 'left': 48}], 'left': 47}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 456, 'children': [{'text': '16', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 457, 'children': [], 'left': 65}], 'left': 64}, {'top': 132, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 458, 'children': [{'text': '17', 'top': 132, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 459, 'children': [], 'left': 82}], 'left': 81}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 460, 'children': [{'text': '18', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 461, 'children': [], 'left': 98}], 'left': 97}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 462, 'children': [{'text': '19', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 463, 'children': [], 'left': 116}], 'left': 115}, {'top': 132, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 464, 'children': [{'text': '20', 'top': 132, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 465, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 145, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 466, 'children': [{'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 467, 'children': [{'text': '21', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 468, 'children': [], 'left': 32}], 'left': 31}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 469, 'children': [{'text': '22', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 470, 'children': [], 'left': 48}], 'left': 47}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 471, 'children': [{'text': '23', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 472, 'children': [], 'left': 65}], 'left': 64}, {'top': 145, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 473, 'children': [{'text': '24', 'top': 146, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 474, 'children': [], 'left': 82}], 'left': 81}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 475, 'children': [{'text': '25', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 476, 'children': [], 'left': 98}], 'left': 97}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 477, 'children': [{'text': '26', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 478, 'children': [], 'left': 116}], 'left': 115}, {'top': 145, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 479, 'children': [{'text': '27', 'top': 146, 'height': 11, 'width': 15, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 480, 'children': [], 'left': 133}], 'left': 132}], 'left': 31}, {'top': 158, 'height': 13, 'width': 118, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 481, 'children': [{'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ', 'ref': 482, 'children': [{'text': '28', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 483, 'children': [], 'left': 32}], 'left': 31}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 484, 'children': [{'text': '29', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 485, 'children': [], 'left': 48}], 'left': 47}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 486, 'children': [{'text': '30', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 487, 'children': [], 'left': 65}], 'left': 64}, {'top': 158, 'height': 13, 'width': 16, 'tag': 'TD', 'id': '', 'classes': ' ', 'ref': 488, 'children': [{'text': '31', 'top': 159, 'height': 11, 'width': 14, 'tag': 'A', 'id': '', 'classes': 'ui-state-default', 'ref': 489, 'children': [], 'left': 82}], 'left': 81}, {'text': '', 'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 490, 'children': [], 'left': 97}, {'text': '', 'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 491, 'children': [], 'left': 115}, {'text': '', 'top': 158, 'height': 13, 'width': 17, 'tag': 'TD', 'id': '', 'classes': ' ui-datepicker-week-end ui-datepicker-other-month ui-datepicker-unselectable ui-state-disabled', 'ref': 492, 'children': [], 'left': 132}], 'left': 31}], 'left': 31}], 'left': 31}], 'left': 28}], 'left': 0}
|
click
| 22,656 |
Search for fantasy movies directed by Kirk from year 1997.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 125, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Movie Search', 'top': 62, 'height': 14, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'title-div', 'ref': 4, 'children': [], 'left': 2}, {'top': 81, 'height': 68, 'width': 144, 'tag': 'TABLE', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 81, 'height': 68, 'width': 144, 'tag': 'TBODY', 'id': '', 'classes': '', 'ref': 6, 'children': [{'top': 83, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Director', 'top': 83, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 9}, {'top': 83, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 83, 'value': 'Kirk', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 105, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Genre', 'top': 105, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 9}, {'top': 105, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 105, 'value': 'fantasy', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}, {'top': 127, 'height': 20, 'width': 144, 'tag': 'TR', 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': 'Year', 'top': 127, 'height': 20, 'width': 40, 'tag': 'TH', 'id': '', 'classes': '', 'ref': 16, 'children': [], 'left': 9}, {'top': 127, 'height': 20, 'width': 98, 'tag': 'TD', 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 127, 'value': '1997', 'height': 18, 'width': 96, 'tag': 'INPUT_text', 'tampered': 1, 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 53}], 'left': 52}], 'left': 7}], 'left': 7}], 'left': 7}, {'text': 'Submit', 'top': 154, 'height': 17, 'width': 56, 'tag': 'DIV', 'recordingTarget': 1, 'id': '', 'classes': 'final', 'ref': 19, 'children': [], 'left': 52}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 20, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 21, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'TASK: MULTI-ORDERINGS', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 26, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 32, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 33, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 34, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 18,786 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -6518, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -6519, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -6520, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -6521, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -6522, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -6523, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -6524, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please select either "Tab #1" or "Tab #2" where yo', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 4,551 |
Select awsBm and click Submit.
{'top': 0, 'height': 210, 'width': 1396, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 117, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 70, 'width': 156, 'tag': 'DIV', 'id': 'boxes', 'classes': '', 'ref': 4, 'children': [{'top': 58, 'height': 10, 'width': 45, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_radio', 'id': 'ch0', 'classes': '', 'ref': 6, 'children': [], 'left': 7}, {'text': 'LTF', 'top': 58, 'height': 10, 'width': 17, 'tag': 't', 'ref': -585, 'children': [], 'left': 30}], 'left': 2}, {'top': 76, 'height': 10, 'width': 53, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 72, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_radio', 'id': 'ch1', 'classes': '', 'ref': 8, 'children': [], 'left': 7}, {'text': 'mq98', 'top': 76, 'height': 10, 'width': 25, 'tag': 't', 'ref': -586, 'children': [], 'left': 30}], 'left': 2}, {'top': 93, 'height': 10, 'width': 60, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 90, 'value': 1, 'height': 12, 'width': 20, 'tag': 'INPUT_radio', 'tampered': 1, 'id': 'ch2', 'classes': '', 'ref': 10, 'children': [], 'left': 7}, {'text': 'awsBm', 'top': 93, 'height': 10, 'width': 32, 'tag': 't', 'ref': -587, 'children': [], 'left': 30}], 'left': 2}, {'top': 111, 'height': 10, 'width': 46, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 107, 'value': 0, 'height': 12, 'width': 20, 'tag': 'INPUT_radio', 'id': 'ch3', 'classes': '', 'ref': 12, 'children': [], 'left': 7}, {'text': 'hRa', 'top': 111, 'height': 10, 'width': 18, 'tag': 't', 'ref': -588, 'children': [], 'left': 30}], 'left': 2}], 'left': 2}, {'text': 'Submit', 'top': 133, 'height': 32, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 13, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 14, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 15, 'children': [{'top': 242, 'height': 15, 'width': 146, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'TASK: CLICK-OPTION', 'top': 242, 'height': 15, 'width': 146, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 276}], 'left': 276}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 20, 'children': [{'text': '', 'top': 357, 'value': 'select the 3rd op', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 379, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 48}, {'text': '', 'top': 401, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 48}, {'text': '', 'top': 423, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 24, 'children': [], 'left': 48}, {'text': '', 'top': 445, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 481, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 26, 'children': [], 'left': 0}, {'text': '', 'top': 511, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 27, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 511, 'height': 22, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 28, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 1,221 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -13147, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -13148, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -13149, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -13150, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -13151, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -13152, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -13153, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please select either "Tab #1" or "Tab #2" ', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Then click the link which is mentioned in the Yellow color text box found either o', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:102
| 5,498 |
Click the button in the dialog box labeled "OK".
{'top': 0, 'height': 210, 'width': 1745, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 20, 'children': [{'text': '', 'top': 49, 'height': 103, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}, {'top': 223, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 22, 'children': [{'top': 242, 'height': 81, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 23, 'children': [{'top': 242, 'height': 15, 'width': 159, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 24, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 15, 'width': 159, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 270}], 'left': 270}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 26, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 27, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 359, 'height': 132, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 28, 'children': [{'text': '', 'top': 359, 'value': 'F', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 379, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 48}, {'text': '', 'top': 400, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 32, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 20, 'width': 603, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 475, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 34, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 111, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 35, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 20, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 36, 'children': [], 'left': 0}], 'left': 0}, {'top': 59, 'height': 123, 'width': 139, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 1, 'children': [{'top': 62, 'height': 20, 'width': 133, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 2, 'children': [{'text': '', 'top': 66, 'height': 10, 'width': 113, 'tag': 'SPAN', 'id': 'ui-id-5', 'classes': 'ui-dialog-title', 'ref': 3, 'children': [], 'left': 13}, {'top': 63, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 4, 'children': [{'text': '', 'top': 65, 'height': 15, 'width': 15, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 5, 'children': [], 'left': 121}, {'text': 'Close', 'top': 67, 'height': 10, 'width': 25, 'tag': 't', 'ref': -8, 'children': [], 'left': -4882}], 'left': 119}], 'left': 9}, {'top': 83, 'height': 51, 'width': 133, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 43, 'children': [{'text': 'Pretium nisl massa turpis et nullam.', 'top': 98, 'height': 21, 'width': 113, 'tag': 'P', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 19}], 'left': 9}, {'top': 140, 'height': 39, 'width': 133, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 7, 'children': [{'top': 144, 'height': 30, 'width': 97, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 8, 'children': [{'text': 'Cancel', 'top': 149, 'height': 20, 'width': 53, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 9, 'children': [], 'left': 36}, {'text': 'OK', 'top': 149, 'height': 20, 'width': 36, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 10, 'children': [], 'left': 93}], 'left': 36}], 'left': 9}, {'text': '', 'top': 60, 'height': 1, 'width': 137, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 11, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 121, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 12, 'children': [], 'left': 143}, {'text': '', 'top': 180, 'height': 1, 'width': 137, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 13, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 121, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 14, 'children': [], 'left': 7}, {'text': '', 'top': 175, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 15, 'children': [], 'left': 138}, {'text': '', 'top': 175, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 16, 'children': [], 'left': 7}, {'text': '', 'top': 60, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 17, 'children': [], 'left': 138}, {'text': '', 'top': 60, 'height': 6, 'width': 6, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 18, 'children': [], 'left': 7}], 'left': 6}], 'left': 0}
|
keyup:0
| 11,673 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -7050, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -7051, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -7052, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -7053, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -7054, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -7055, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -7056, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please select either "Tab #1" or "Tab #2" where you find t', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:104
| 4,627 |
Switch between the tabs to find and click on the link "Et".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 12, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 13, 'children': [{'top': 50, 'height': 145, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 14, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 25, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-9', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': 'Tab #2', 'top': 58, 'height': 23, 'width': 40, 'tag': 'A', 'id': 'ui-id-10', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 51}], 'left': 50}], 'left': 3}, {'top': 84, 'height': 106, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 6, 'children': [{'top': 104, 'height': 66, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'Duis ac nulla quam. Eget', 'top': 104, 'height': 11, 'width': 111, 'tag': 't', 'ref': -2465, 'children': [], 'left': 19}, {'text': 'potenti', 'top': 115, 'height': 11, 'width': 30, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 19}, {'text': 'ornare curabitur.', 'top': 115, 'height': 11, 'width': 75, 'tag': 't', 'ref': -2466, 'children': [], 'left': 49}, {'text': 'Nibh scelerisque', 'top': 126, 'height': 11, 'width': 73, 'tag': 't', 'ref': -2467, 'children': [], 'left': 19}, {'text': 'scelerisque', 'top': 137, 'height': 11, 'width': 53, 'tag': 't', 'ref': -2468, 'children': [], 'left': 19}, {'text': 'vitae', 'top': 137, 'height': 11, 'width': 21, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 9, 'children': [], 'left': 72}, {'text': 'libero', 'top': 137, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 10, 'children': [], 'left': 96}, {'text': 'eu.', 'top': 137, 'height': 11, 'width': 16, 'tag': 't', 'ref': -2469, 'children': [], 'left': 120}, {'text': 'Et', 'top': 148, 'height': 11, 'width': 9, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 11, 'children': [], 'left': 19}, {'text': 'in', 'top': 148, 'height': 11, 'width': 13, 'tag': 't', 'ref': -2470, 'children': [], 'left': 28}, {'text': 'et', 'top': 148, 'height': 11, 'width': 8, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 12, 'children': [], 'left': 41}, {'text': 'felis', 'top': 148, 'height': 11, 'width': 23, 'tag': 't', 'ref': -2471, 'children': [], 'left': 50}, {'text': 'nisi.', 'top': 148, 'height': 11, 'width': 17, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 13, 'children': [], 'left': 73}, {'text': 'Bibendum.', 'top': 159, 'height': 11, 'width': 47, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 14, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 26, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 27, 'children': [{'top': 242, 'height': 16, 'width': 194, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 28, 'children': [{'text': 'TASK: CLICK-TAB-2-MEDIUM', 'top': 242, 'height': 16, 'width': 194, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 29, 'children': [], 'left': 252}], 'left': 252}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 30, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 32, 'children': [{'text': '', 'top': 357, 'value': 'Please switch beteen t', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 33, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 34, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 35, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 36, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 37, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 38, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 39, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:104
| 3,972 |
Enter "Agustina" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 77, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 63, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 12}, {'text': 'Submit', 'top': 94, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 12}], 'left': 12}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': 'Click on Start', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Please enter the ', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 10,633 |
Focus into the textbox.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 38, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 68, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'recordingTarget': 1, 'id': 'tt', 'classes': '', 'ref': 4, 'children': [], 'left': 3}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 6, 'children': [{'top': 242, 'height': 15, 'width': 135, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': 'TASK: FOCUS-TEXT', 'top': 242, 'height': 15, 'width': 135, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 8, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 17, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 18, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 0}], 'left': 0}, {'text': 'Try New Episode', 'top': 170, 'height': 28, 'width': 150, 'tag': 'DIV', 'id': 'logging-screen', 'classes': '', 'ref': 20, 'children': [], 'left': 170}], 'left': 0}
|
click
| 20,528 |
Click the button in the dialog box labeled "Cancel".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'text': '', 'top': 50, 'height': 104, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 4, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 16, 'width': 159, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 16, 'width': 159, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 270}], 'left': 270}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 10, 'children': [{'text': '', 'top': 357, 'value': 'Click the button i', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 11, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 16, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 17, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 0}], 'left': 0}, {'top': 58, 'height': 124, 'width': 131, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 19, 'children': [{'top': 61, 'height': 21, 'width': 125, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 20, 'children': [{'text': '', 'top': 65, 'height': 11, 'width': 105, 'tag': 'SPAN', 'id': 'ui-id-1', 'classes': 'ui-dialog-title', 'ref': 21, 'children': [], 'left': 14}, {'top': 61, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 22, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 23, 'children': [], 'left': 113}, {'text': 'Close', 'top': 66, 'height': 11, 'width': 25, 'tag': 't', 'ref': -228, 'children': [], 'left': -4891}], 'left': 111}], 'left': 10}, {'top': 82, 'height': 52, 'width': 125, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 24, 'children': [{'text': 'Enim. Quam arcu sed lectus semper arcu.', 'top': 97, 'height': 22, 'width': 105, 'tag': 'P', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 20}], 'left': 10}, {'top': 139, 'height': 40, 'width': 125, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 26, 'children': [{'top': 143, 'height': 31, 'width': 97, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 27, 'children': [{'text': 'Cancel', 'top': 148, 'height': 21, 'width': 53, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 28, 'children': [], 'left': 27}, {'text': 'OK', 'top': 148, 'height': 21, 'width': 36, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 29, 'children': [], 'left': 84}], 'left': 27}], 'left': 10}, {'text': '', 'top': 59, 'height': 2, 'width': 129, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 30, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 122, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 31, 'children': [], 'left': 135}, {'text': '', 'top': 179, 'height': 2, 'width': 129, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 32, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 122, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 33, 'children': [], 'left': 8}, {'text': '', 'top': 174, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 34, 'children': [], 'left': 130}, {'text': '', 'top': 174, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 35, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 36, 'children': [], 'left': 130}, {'text': '', 'top': 59, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 37, 'children': [], 'left': 8}], 'left': 7}], 'left': 0}
|
keydown:0
| 1,581 |
Book the cheapest one-way flight from: White Mountain, AK to: Lancaster, PA on 11/13/2016.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1651, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 1652, 'children': [{'top': 50, 'height': 160, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 1653, 'children': [{'top': 60, 'height': 139, 'width': 156, 'tag': 'DIV', 'id': 'menu', 'classes': '', 'ref': 1, 'children': [{'text': 'Book Your One-Way Flight', 'top': 60, 'height': 11, 'width': 154, 'tag': 'H2', 'id': 'header-book', 'classes': '', 'ref': 2, 'children': [], 'left': 4}, {'top': 79, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 3, 'children': [{'text': '', 'top': 81, 'value': 'White Mountain,A', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'flight-from', 'tampered': 1, 'classes': 'flight-input ui-autocomplete-input', 'ref': 4, 'children': [], 'left': 4}], 'left': 2}, {'top': 102, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 5, 'children': [{'text': '', 'top': 104, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'id': 'flight-to', 'classes': 'flight-input ui-autocomplete-input', 'ref': 6, 'children': [], 'left': 4}], 'left': 2}, {'top': 140, 'height': 35, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'departure-container', 'ref': 7, 'children': [{'text': 'Departure Date', 'top': 140, 'height': 15, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'departure-header', 'ref': 8, 'children': [], 'left': 2}, {'top': 155, 'height': 20, 'width': 128, 'tag': 'DIV', 'id': '', 'classes': 'input-container', 'ref': 9, 'children': [{'text': '', 'top': 157, 'value': '', 'height': 16, 'width': 106, 'tag': 'INPUT_text', 'id': 'datepicker', 'classes': 'flight-input hasDatepicker', 'ref': 10, 'children': [], 'left': 12}], 'left': 2}], 'left': 2}, {'top': 178, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'search-container', 'ref': 11, 'children': [{'text': 'Search', 'top': 180, 'height': 17, 'width': 126, 'tag': 'BUTTON', 'id': 'search', 'classes': '', 'ref': 12, 'children': [], 'left': 4}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 210, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 1728, 'children': [{'top': 228, 'height': 64, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 1729, 'children': [{'top': 228, 'height': 15, 'width': 213, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1730, 'children': [{'text': 'TASK: BOOK-FLIGHT-NODELAY', 'top': 228, 'height': 15, 'width': 213, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 1731, 'children': [], 'left': 643}], 'left': 643}, {'top': 244, 'height': 47, 'width': 698, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 1732, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface as much as you like to learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. You may use as many steps as you feel appropriate', 'top': 244, 'height': 47, 'width': 698, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 1733, 'children': [], 'left': 400}], 'left': 400}], 'left': 400}, {'top': 327, 'height': 109, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 1734, 'children': [{'text': '', 'top': 327, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 1735, 'children': [], 'left': 499}, {'text': '', 'top': 345, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 1736, 'children': [], 'left': 499}, {'text': '', 'top': 364, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 1737, 'children': [], 'left': 499}, {'text': '', 'top': 383, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 1738, 'children': [], 'left': 499}, {'text': '', 'top': 401, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 1739, 'children': [], 'left': 499}, {'text': '', 'top': 420, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 1740, 'children': [], 'left': 400}, {'text': '', 'top': 436, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 1741, 'children': [], 'left': 988}], 'left': 400}, {'text': 'Add new step', 'top': 436, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 1742, 'children': [], 'left': 400}], 'left': 400}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 1744, 'children': [{'text': 'No search results.', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 405, 'children': [], 'left': -1}], 'left': -1}, {'top': 209, 'height': 1, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': 'ui-helper-hidden-accessible', 'ref': 1746, 'children': [{'text': 'Portsmouth, NH (PSM)', 'top': 209, 'height': 48, 'width': 1, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 1747, 'children': [], 'left': -1}], 'left': -1}], 'left': 0}
|
keyup:0
| 19,303 |
Select OpFD and click Submit.
{'top': 0, 'height': 210, 'width': 1364, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 7, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 8, 'children': [{'top': 50, 'height': 163, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 9, 'children': [{'top': 52, 'height': 114, 'width': 156, 'tag': 'DIV', 'id': 'boxes', 'classes': '', 'ref': 10, 'children': [{'top': 58, 'height': 13, 'width': 68, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 1, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch0', 'classes': '', 'ref': 2, 'children': [], 'left': 6}, {'text': 'mxk2Lv0', 'top': 58, 'height': 13, 'width': 41, 'tag': 't', 'ref': -55, 'children': [], 'left': 29}], 'left': 2}, {'top': 77, 'height': 13, 'width': 54, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 74, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch1', 'classes': '', 'ref': 4, 'children': [], 'left': 6}, {'text': 'ANC6', 'top': 77, 'height': 13, 'width': 27, 'tag': 't', 'ref': -56, 'children': [], 'left': 29}], 'left': 2}, {'top': 96, 'height': 13, 'width': 65, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 93, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch2', 'classes': '', 'ref': 6, 'children': [], 'left': 6}, {'text': 'j3yTNfT', 'top': 96, 'height': 13, 'width': 38, 'tag': 't', 'ref': -57, 'children': [], 'left': 29}], 'left': 2}, {'top': 115, 'height': 13, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 112, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch3', 'classes': '', 'ref': 8, 'children': [], 'left': 6}, {'text': 'G2V', 'top': 115, 'height': 13, 'width': 21, 'tag': 't', 'ref': -58, 'children': [], 'left': 29}], 'left': 2}, {'top': 134, 'height': 13, 'width': 57, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 131, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch4', 'classes': '', 'ref': 10, 'children': [], 'left': 6}, {'text': 'epaHz', 'top': 134, 'height': 13, 'width': 30, 'tag': 't', 'ref': -59, 'children': [], 'left': 29}], 'left': 2}, {'top': 153, 'height': 13, 'width': 54, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 150, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'focused': 1, 'id': 'ch5', 'tampered': 1, 'classes': '', 'ref': 12, 'children': [], 'left': 6}, {'text': 'OpFD', 'top': 153, 'height': 13, 'width': 27, 'tag': 't', 'ref': -60, 'children': [], 'left': 29}], 'left': 2}], 'left': 2}, {'text': 'Submit', 'top': 179, 'height': 32, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'recordingTarget': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 17, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 16, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-CHECKBOXES', 'top': 242, 'height': 16, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 3}], 'left': 3}], 'left': 0}, {'top': 373, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 395, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 417, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 439, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 461, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 22, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 24,000 |
Enter the password "qdhzq" into both text fields and press submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Password', 'top': 62, 'height': 11, 'width': 43, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 6, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'qdhzq', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'tampered': 1, 'id': 'password', 'classes': '', 'ref': 7, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Verify password', 'top': 112, 'height': 11, 'width': 70, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': '', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'focused': 1, 'recordingTarget': 1, 'id': 'verify', 'tampered': 1, 'classes': '', 'ref': 10, 'children': [], 'left': 7}], 'left': 2}, {'text': 'Submit', 'top': 162, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 9}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 15, 'width': 179, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: ENTER-PASSWORD', 'top': 242, 'height': 15, 'width': 179, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 260}], 'left': 260}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 24, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 25, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keypress:113
| 26,885 |
Switch between the tabs to find and click on the link "pharetra".
{'top': 0, 'height': 210, 'width': 924, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 22, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 23, 'children': [{'top': 50, 'height': 156, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 24, 'children': [{'top': 53, 'height': 29, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 2, 'children': [{'text': '1', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'id': 'ui-id-11', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 4, 'children': [{'text': '2', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'tampered': 1, 'id': 'ui-id-12', 'classes': 'ui-tabs-anchor', 'ref': 5, 'children': [], 'left': 26}], 'left': 25}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 6, 'children': [{'text': '3', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'tampered': 1, 'id': 'ui-id-13', 'classes': 'ui-tabs-anchor', 'ref': 7, 'children': [], 'left': 46}], 'left': 45}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab', 'ref': 8, 'children': [{'text': '4', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'tampered': 1, 'id': 'ui-id-14', 'classes': 'ui-tabs-anchor', 'ref': 9, 'children': [], 'left': 65}], 'left': 64}, {'top': 57, 'height': 25, 'width': 17, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 10, 'children': [{'text': '5', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'tampered': 1, 'id': 'ui-id-15', 'classes': 'ui-tabs-anchor', 'ref': 11, 'children': [], 'left': 85}], 'left': 84}, {'top': 57, 'height': 24, 'width': 17, 'tag': 'LI', 'tampered': 1, 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-state-hover ui-state-focus', 'ref': 12, 'children': [{'text': '6', 'top': 58, 'height': 23, 'width': 15, 'tag': 'A', 'focused': 1, 'recordingTarget': 1, 'id': 'ui-id-16', 'classes': 'ui-tabs-anchor', 'ref': 13, 'children': [], 'left': 104}], 'left': 103}], 'left': 3}, {'top': 84, 'height': 117, 'width': 150, 'tag': 'DIV', 'id': 'tabs-5', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 42, 'children': [{'top': 104, 'height': 77, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 43, 'children': [{'text': 'Lorem', 'top': 104, 'height': 11, 'width': 31, 'tag': 't', 'ref': -263, 'children': [], 'left': 19}, {'text': 'egestas.', 'top': 104, 'height': 11, 'width': 37, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 44, 'children': [], 'left': 50}, {'text': 'Nunc', 'top': 104, 'height': 11, 'width': 26, 'tag': 't', 'ref': -264, 'children': [], 'left': 87}, {'text': 'porttitor. Dictumst tempus', 'top': 115, 'height': 11, 'width': 113, 'tag': 't', 'ref': -265, 'children': [], 'left': 19}, {'text': 'diam,', 'top': 126, 'height': 11, 'width': 24, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 45, 'children': [], 'left': 19}, {'text': 'dignissim nisi, in', 'top': 126, 'height': 11, 'width': 75, 'tag': 't', 'ref': -266, 'children': [], 'left': 43}, {'text': 'feugiat. Quis aliquam', 'top': 137, 'height': 11, 'width': 93, 'tag': 't', 'ref': -267, 'children': [], 'left': 19}, {'text': 'ultricies fermentum amet', 'top': 148, 'height': 11, 'width': 109, 'tag': 't', 'ref': -268, 'children': [], 'left': 19}, {'text': 'amet massa pretium', 'top': 159, 'height': 11, 'width': 90, 'tag': 't', 'ref': -269, 'children': [], 'left': 19}, {'text': 'cursus.', 'top': 170, 'height': 11, 'width': 32, 'tag': 't', 'ref': -270, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 40, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 41, 'children': [{'top': 242, 'height': 16, 'width': 178, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 42, 'children': [{'text': 'TASK: CLICK-TAB-2-HARD', 'top': 242, 'height': 16, 'width': 178, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 43, 'children': [], 'left': 260}], 'left': 260}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 44, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 45, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 125, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 46, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 99}, {'text': '', 'top': 376, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 99}, {'text': '', 'top': 395, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 49, 'children': [], 'left': 99}, {'text': '', 'top': 414, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 50, 'children': [], 'left': 99}, {'text': '', 'top': 433, 'value': '', 'height': 19, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 99}, {'text': '', 'top': 466, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 52, 'children': [], 'left': 0}, {'text': '', 'top': 496, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 53, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 496, 'height': 18, 'width': 84, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 54, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 25,247 |
The mail by Sibby should be forwarded to Tessie.
{'top': 0, 'height': 210, 'width': 1339, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 64, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 65, 'children': [{'top': 50, 'height': 164, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 66, 'children': [{'top': 52, 'height': 160, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 52, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 53, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 54, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 55, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 38, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 56, 'children': [{'top': 73, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 57, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Tess', 'height': 17, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 59, 'children': [], 'left': 19}], 'left': 2}, {'top': 95, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 60, 'children': [{'text': 'subject:', 'top': 97, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 61, 'children': [], 'left': 4}, {'text': 'Eget.', 'top': 97, 'height': 11, 'width': 23, 'tag': 't', 'ref': -311, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 111, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 62, 'children': [{'text': '', 'top': 111, 'value': 'Diam egestas diam eget scelerisque sit eget consectetur morbi ipsum.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 63, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'tampered': 1, 'id': 'desk', 'classes': '', 'ref': 79, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 80, 'children': [{'top': 242, 'height': 16, 'width': 238, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 81, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD-NL', 'top': 242, 'height': 16, 'width': 238, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 82, 'children': [], 'left': 230}], 'left': 230}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 83, 'children': [{'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 84, 'children': [{'text': 'Click', 'top': 258, 'height': 16, 'width': 39, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 85, 'children': [], 'left': 4}, {'text': 'START to reveal the task description -- experiment with the interface multiple times to ensure that', 'top': 258, 'height': 16, 'width': 652, 'tag': 't', 'ref': -312, 'children': [], 'left': 43}, {'text': 'you learn how to accomplish the task. Then,', 'top': 274, 'height': 16, 'width': 297, 'tag': 't', 'ref': -313, 'children': [], 'left': 43}, {'text': 'please', 'top': 274, 'height': 16, 'width': 49, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 86, 'children': [], 'left': 341}, {'text': 'explain to the AI assistant (in step-wise', 'top': 274, 'height': 16, 'width': 264, 'tag': 't', 'ref': -314, 'children': [], 'left': 391}, {'text': 'instructions) how to do this task. Your instructions should be general enough to explain how to', 'top': 290, 'height': 16, 'width': 634, 'tag': 't', 'ref': -315, 'children': [], 'left': 32}, {'text': 'accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel', 'top': 306, 'height': 16, 'width': 694, 'tag': 't', 'ref': -316, 'children': [], 'left': 2}, {'text': 'appropriate', 'top': 322, 'height': 16, 'width': 77, 'tag': 't', 'ref': -317, 'children': [], 'left': 311}], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 373, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 87, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 88, 'children': [], 'left': 48}, {'text': '', 'top': 394, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 89, 'children': [], 'left': 48}, {'text': '', 'top': 415, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 90, 'children': [], 'left': 48}, {'text': '', 'top': 436, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 91, 'children': [], 'left': 48}, {'text': '', 'top': 457, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 92, 'children': [], 'left': 48}, {'text': '', 'top': 492, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 93, 'children': [], 'left': 0}, {'text': '', 'top': 522, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 94, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 522, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 95, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 14,387 |
Switch between the tabs to find and click on the link "Tincidunt".
{'top': 0, 'height': 210, 'width': 1055, 'tag': 'BODY', 'id': '', 'classes': ' hasGoogleVoiceExt', 'ref': 8, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 9, 'children': [{'top': 50, 'height': 146, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': 'ui-tabs ui-corner-all ui-widget ui-widget-content', 'ref': 10, 'children': [{'top': 53, 'height': 28, 'width': 154, 'tag': 'UL', 'id': '', 'classes': 'ui-tabs-nav ui-corner-all ui-helper-reset ui-helper-clearfix ui-widget-header', 'ref': 1, 'children': [{'top': 57, 'height': 24, 'width': 42, 'tag': 'LI', 'id': '', 'classes': 'ui-tabs-tab ui-corner-top ui-state-default ui-tab ui-tabs-active ui-state-active', 'ref': 2, 'children': [{'text': 'Tab #1', 'top': 58, 'height': 22, 'width': 40, 'tag': 'A', 'id': 'ui-id-4', 'classes': 'ui-tabs-anchor', 'ref': 3, 'children': [], 'left': 7}], 'left': 6}], 'left': 3}, {'top': 83, 'height': 108, 'width': 150, 'tag': 'DIV', 'id': 'tabs-1', 'classes': 'ui-tabs-panel ui-corner-bottom ui-widget-content', 'ref': 4, 'children': [{'top': 103, 'height': 68, 'width': 122, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Vitae, purus mollis nisi.', 'top': 103, 'height': 11, 'width': 102, 'tag': 't', 'ref': -3745, 'children': [], 'left': 19}, {'text': 'Risus mauris', 'top': 115, 'height': 11, 'width': 60, 'tag': 't', 'ref': -3746, 'children': [], 'left': 19}, {'text': 'aenean', 'top': 115, 'height': 11, 'width': 33, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 6, 'children': [], 'left': 79}, {'text': 'senectus.', 'top': 126, 'height': 11, 'width': 42, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 7, 'children': [], 'left': 19}, {'text': 'Velit eu urna', 'top': 126, 'height': 11, 'width': 58, 'tag': 't', 'ref': -3747, 'children': [], 'left': 61}, {'text': 'pellentesque sed. Sodales', 'top': 137, 'height': 11, 'width': 117, 'tag': 't', 'ref': -3748, 'children': [], 'left': 19}, {'text': 'laoreet blandit.', 'top': 149, 'height': 11, 'width': 68, 'tag': 't', 'ref': -3749, 'children': [], 'left': 19}, {'text': 'Tincidunt', 'top': 149, 'height': 11, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'alink', 'ref': 8, 'children': [], 'left': 87}, {'text': 'aliquet. Magna nullam.', 'top': 160, 'height': 11, 'width': 100, 'tag': 't', 'ref': -3750, 'children': [], 'left': 19}], 'left': 19}], 'left': 5}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 19, 'children': [{'top': 242, 'height': 15, 'width': 176, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'TASK: CLICK-TAB-2-EASY', 'top': 242, 'height': 15, 'width': 176, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 261}], 'left': 261}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 22, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 23, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 136, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 24, 'children': [{'text': '', 'top': 357, 'value': 'Find the word in quotations in the yellow instruction box', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Scan the page to find the same word', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': 'Cl', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 421, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 442, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 477, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 30, 'children': [], 'left': 0}, {'text': '', 'top': 507, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 31, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 507, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 32, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 9,505 |
Enter "Agustina" into the text field and press Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 77, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 63, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'tt', 'classes': '', 'ref': 5, 'children': [], 'left': 12}, {'text': 'Submit', 'top': 94, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 12}], 'left': 12}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 16, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-TEXT', 'top': 242, 'height': 16, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 357, 'value': 'Click on Start', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'Please enter the word given in yellow color text box in', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 10,876 |
Enter the username "dolores" and the password "4MT" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 33, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 34, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 35, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 36, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 38, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': '', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'username', 'classes': '', 'ref': 39, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 40, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 41, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': '', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'id': 'password', 'classes': '', 'ref': 42, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 43, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 44, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 45, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 46, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 47, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 48, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 49, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 50, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 51, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 52, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 53, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 54, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 55, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 56, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 57, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 16,738 |
Playing as 'X', win a game of tic-tac-toe.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 60, 'height': 136, 'width': 150, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 44, 'width': 150, 'tag': 'DIV', 'id': '', 'classes': 'ttt-row', 'ref': 4, 'children': [{'text': '', 'top': 62, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-0', 'classes': '', 'ref': 5, 'children': [], 'left': 12}, {'text': '', 'top': 62, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-1', 'classes': '', 'ref': 6, 'children': [], 'left': 56}, {'text': '', 'top': 62, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-2', 'classes': '', 'ref': 7, 'children': [], 'left': 101}], 'left': 12}, {'top': 106, 'height': 44, 'width': 150, 'tag': 'DIV', 'id': '', 'classes': 'ttt-row', 'ref': 8, 'children': [{'text': '', 'top': 106, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-3', 'classes': '', 'ref': 9, 'children': [], 'left': 12}, {'text': '', 'top': 106, 'height': 42, 'width': 42, 'tag': 'SPAN', 'tampered': 1, 'id': 'ttt-4', 'classes': 'mark-x', 'ref': 10, 'children': [], 'left': 56}, {'text': '', 'top': 106, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-5', 'classes': '', 'ref': 11, 'children': [], 'left': 101}], 'left': 12}, {'top': 150, 'height': 44, 'width': 150, 'tag': 'DIV', 'id': '', 'classes': 'ttt-row', 'ref': 12, 'children': [{'text': '', 'top': 150, 'height': 42, 'width': 42, 'tag': 'SPAN', 'recordingTarget': 1, 'id': 'ttt-6', 'classes': '', 'ref': 13, 'children': [], 'left': 12}, {'text': '', 'top': 150, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-7', 'classes': '', 'ref': 14, 'children': [], 'left': 56}, {'text': '', 'top': 150, 'height': 42, 'width': 42, 'tag': 'SPAN', 'id': 'ttt-8', 'classes': 'mark-o', 'ref': 15, 'children': [], 'left': 101}], 'left': 12}], 'left': 10}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 16, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 17, 'children': [{'top': 242, 'height': 15, 'width': 133, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': 'TASK: TIC-TAC-TOE', 'top': 242, 'height': 15, 'width': 133, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 19, 'children': [], 'left': 283}], 'left': 283}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 20, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 22, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 24, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 28, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 29, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 30, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 18,942 |
Click the button in the dialog box labeled "OK".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'text': '', 'top': 50, 'height': 104, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 4, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 16, 'width': 156, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 16, 'width': 156, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 272}], 'left': 272}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 3}], 'left': 3}], 'left': 0}, {'top': 373, 'height': 140, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 10, 'children': [{'text': '', 'top': 373, 'value': 'Focus on the last word of the task description', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 11, 'children': [], 'left': 48}, {'text': '', 'top': 395, 'value': 'Look for this word in the webpage', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 48}, {'text': '', 'top': 417, 'value': 'Click on the box this w', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 439, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 461, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 16, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 17, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 22, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 0}], 'left': 0}, {'top': 49, 'height': 156, 'width': 124, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 19, 'children': [{'top': 52, 'height': 21, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 20, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 99, 'tag': 'SPAN', 'id': 'ui-id-1', 'classes': 'ui-dialog-title', 'ref': 21, 'children': [], 'left': 14}, {'top': 53, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 22, 'children': [{'text': '', 'top': 55, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 23, 'children': [], 'left': 106}, {'text': 'Close', 'top': 56, 'height': 13, 'width': 26, 'tag': 't', 'ref': -652, 'children': [], 'left': -4898}], 'left': 104}], 'left': 10}, {'top': 73, 'height': 82, 'width': 118, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 24, 'children': [{'text': 'Aliquam cras tellus pellentesque malesuada imperdiet. Egestas.', 'top': 88, 'height': 52, 'width': 98, 'tag': 'P', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 20}], 'left': 10}, {'top': 160, 'height': 42, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 26, 'children': [{'top': 164, 'height': 33, 'width': 100, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 27, 'children': [{'text': 'Cancel', 'top': 169, 'height': 23, 'width': 55, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 28, 'children': [], 'left': 18}, {'text': 'OK', 'top': 169, 'height': 23, 'width': 37, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 29, 'children': [], 'left': 77}], 'left': 18}], 'left': 10}, {'text': '', 'top': 50, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 30, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 31, 'children': [], 'left': 128}, {'text': '', 'top': 202, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 32, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 33, 'children': [], 'left': 8}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 34, 'children': [], 'left': 123}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 35, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 36, 'children': [], 'left': 123}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 37, 'children': [], 'left': 8}], 'left': 7}], 'left': 0}
|
keypress:111
| 7,800 |
Enter 04/25/2018 as the date and hit submit.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 55, 'height': 61, 'width': 150, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 57, 'height': 57, 'width': 146, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'text': '', 'top': 62, 'value': '', 'height': 20, 'width': 125, 'tag': 'INPUT_date', 'focused': 1, 'recordingTarget': 1, 'id': 'tt', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 7}, {'text': 'Submit', 'top': 87, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 7}], 'left': 7}], 'left': 5}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 134, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: ENTER-DATE', 'top': 242, 'height': 15, 'width': 134, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 21,167 |
Select Uo, qhAkOm, WWBtj, APMOD, 4wnfhig, v7, 4XX5w, 4upEMBP, EE, A1V and click Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 25, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 26, 'children': [{'top': 50, 'height': 130, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 27, 'children': [{'top': 52, 'height': 95, 'width': 65, 'tag': 'DIV', 'id': 'boxes-left', 'classes': '', 'ref': 28, 'children': [{'top': 59, 'height': 11, 'width': 61, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 1, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch0', 'classes': '', 'ref': 2, 'children': [], 'left': 6}, {'text': '4wnfhig', 'top': 59, 'height': 11, 'width': 34, 'tag': 't', 'ref': -301, 'children': [], 'left': 29}], 'left': 2}, {'top': 78, 'height': 11, 'width': 37, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 74, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch1', 'classes': '', 'ref': 4, 'children': [], 'left': 6}, {'text': 'v7', 'top': 78, 'height': 11, 'width': 10, 'tag': 't', 'ref': -302, 'children': [], 'left': 29}], 'left': 2}, {'top': 97, 'height': 11, 'width': 65, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch2', 'classes': '', 'ref': 6, 'children': [], 'left': 6}, {'text': 'qhAkOm', 'top': 97, 'height': 11, 'width': 38, 'tag': 't', 'ref': -303, 'children': [], 'left': 29}], 'left': 2}, {'top': 116, 'height': 11, 'width': 57, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 112, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch3', 'classes': '', 'ref': 8, 'children': [], 'left': 6}, {'text': 'WWBtj', 'top': 116, 'height': 11, 'width': 30, 'tag': 't', 'ref': -304, 'children': [], 'left': 29}], 'left': 2}, {'top': 135, 'height': 11, 'width': 58, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 131, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch4', 'classes': '', 'ref': 10, 'children': [], 'left': 6}, {'text': '4XX5w', 'top': 135, 'height': 11, 'width': 31, 'tag': 't', 'ref': -305, 'children': [], 'left': 29}], 'left': 2}], 'left': 2}, {'top': 52, 'height': 95, 'width': 72, 'tag': 'DIV', 'id': 'boxes-right', 'classes': '', 'ref': 41, 'children': [{'top': 59, 'height': 11, 'width': 40, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch5', 'classes': '', 'ref': 12, 'children': [], 'left': 71}, {'text': 'EE', 'top': 59, 'height': 11, 'width': 13, 'tag': 't', 'ref': -306, 'children': [], 'left': 94}], 'left': 67}, {'top': 78, 'height': 11, 'width': 45, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 74, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch6', 'classes': '', 'ref': 14, 'children': [], 'left': 71}, {'text': 'A1V', 'top': 78, 'height': 11, 'width': 18, 'tag': 't', 'ref': -307, 'children': [], 'left': 94}], 'left': 67}, {'top': 97, 'height': 11, 'width': 39, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch7', 'classes': '', 'ref': 16, 'children': [], 'left': 71}, {'text': 'Uo', 'top': 97, 'height': 11, 'width': 12, 'tag': 't', 'ref': -308, 'children': [], 'left': 94}], 'left': 67}, {'top': 116, 'height': 11, 'width': 63, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 112, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'focused': 1, 'recordingTarget': 1, 'id': 'ch8', 'tampered': 1, 'classes': '', 'ref': 18, 'children': [], 'left': 71}, {'text': 'APMOD', 'top': 116, 'height': 11, 'width': 36, 'tag': 't', 'ref': -309, 'children': [], 'left': 94}], 'left': 67}, {'top': 135, 'height': 11, 'width': 72, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 19, 'children': [{'text': '', 'top': 131, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch9', 'classes': '', 'ref': 20, 'children': [], 'left': 71}, {'text': '4upEMBP', 'top': 135, 'height': 11, 'width': 45, 'tag': 't', 'ref': -310, 'children': [], 'left': 94}], 'left': 67}], 'left': 67}, {'text': 'Submit', 'top': 147, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 54, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 55, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 56, 'children': [{'top': 242, 'height': 16, 'width': 245, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 57, 'children': [{'text': 'TASK: CLICK-CHECKBOXES-LARGE', 'top': 242, 'height': 16, 'width': 245, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 227}], 'left': 227}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 59, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 60, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 61, 'children': [{'text': '', 'top': 357, 'value': 'click the one by one option', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 62, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'and submit', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 63, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 64, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 65, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 66, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 67, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 68, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 69, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 13,853 |
Look for the email from Alvinia and forward to Manda.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 64, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 65, 'children': [{'top': 50, 'height': 154, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 66, 'children': [{'top': 52, 'height': 150, 'width': 155, 'tag': 'DIV', 'id': 'email', 'classes': '', 'ref': 32, 'children': [{'top': 52, 'height': 20, 'width': 155, 'tag': 'DIV', 'id': 'email-bar', 'classes': '', 'ref': 33, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-email', 'classes': '', 'ref': 34, 'children': [], 'left': 2}, {'top': 54, 'height': 18, 'width': 28, 'tag': 'DIV', 'id': '', 'classes': 'email-actions', 'ref': 35, 'children': [{'text': '', 'top': 57, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'trash', 'ref': 36, 'children': [], 'left': 142}, {'text': '', 'top': 57, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': '', 'classes': 'star', 'ref': 37, 'children': [], 'left': 128}], 'left': 127}], 'left': 2}, {'top': 72, 'height': 40, 'width': 155, 'tag': 'DIV', 'id': '', 'classes': 'email-header', 'ref': 38, 'children': [{'text': 'Viverra.', 'top': 72, 'height': 19, 'width': 155, 'tag': 'DIV', 'id': '', 'classes': 'email-subject', 'ref': 39, 'children': [], 'left': 2}, {'top': 91, 'height': 22, 'width': 112, 'tag': 'SPAN', 'id': '', 'classes': 'email-left', 'ref': 40, 'children': [{'text': 'Alvinia', 'top': 93, 'height': 10, 'width': 108, 'tag': 'DIV', 'id': '', 'classes': 'email-sender', 'ref': 41, 'children': [], 'left': 6}, {'text': 'to me', 'top': 103, 'height': 9, 'width': 108, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 42, 'children': [], 'left': 6}], 'left': 2}, {'top': 91, 'height': 22, 'width': 35, 'tag': 'SPAN', 'id': '', 'classes': 'email-right', 'ref': 43, 'children': [], 'left': 122}], 'left': 2}, {'text': 'Semper pretium eget arcu. Viverra pellentesque eleifend accumsan.', 'top': 112, 'height': 48, 'width': 155, 'tag': 'DIV', 'id': '', 'classes': 'email-body', 'ref': 44, 'children': [], 'left': 2}, {'top': 160, 'height': 34, 'width': 155, 'tag': 'DIV', 'id': '', 'classes': 'email-send', 'ref': 45, 'children': [{'top': 164, 'height': 27, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'email-reply', 'ref': 46, 'children': [{'text': '', 'top': 164, 'height': 18, 'width': 18, 'tag': 'DIV', 'id': '', 'classes': 'icon', 'ref': 47, 'children': [], 'left': 42}, {'text': 'Reply', 'top': 182, 'height': 9, 'width': 40, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 48, 'children': [], 'left': 31}], 'left': 31}, {'top': 164, 'height': 27, 'width': 40, 'tag': 'SPAN', 'id': '', 'classes': 'email-forward', 'ref': 49, 'children': [{'text': '', 'top': 164, 'height': 18, 'width': 18, 'tag': 'DIV', 'recordingTarget': 1, 'id': '', 'classes': 'icon', 'ref': 50, 'children': [], 'left': 98}, {'text': 'Forward', 'top': 182, 'height': 9, 'width': 40, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 51, 'children': [], 'left': 87}], 'left': 87}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 79, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 80, 'children': [{'top': 242, 'height': 15, 'width': 238, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 81, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD-NL', 'top': 242, 'height': 15, 'width': 238, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 82, 'children': [], 'left': 230}], 'left': 230}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 83, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 84, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 123, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 85, 'children': [{'text': '', 'top': 357, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 86, 'children': [], 'left': 99}, {'text': '', 'top': 375, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 87, 'children': [], 'left': 99}, {'text': '', 'top': 394, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 88, 'children': [], 'left': 99}, {'text': '', 'top': 413, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 89, 'children': [], 'left': 99}, {'text': '', 'top': 431, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 90, 'children': [], 'left': 99}, {'text': '', 'top': 464, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 91, 'children': [], 'left': 0}, {'text': '', 'top': 494, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 92, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 494, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 93, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mouseup
| 3,558 |
Find the email by Zelma and forward that email to Geneva.
{'top': 0, 'height': 210, 'width': 1536, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 165, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 161, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 70, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 71, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 72, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 73, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 39, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 74, 'children': [{'top': 73, 'height': 23, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 75, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 76, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': 'Gene', 'height': 18, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 77, 'children': [], 'left': 19}], 'left': 2}, {'top': 96, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 78, 'children': [{'text': 'subject:', 'top': 98, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 79, 'children': [], 'left': 4}, {'text': 'Ultricies.', 'top': 98, 'height': 11, 'width': 38, 'tag': 't', 'ref': -45, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 112, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 80, 'children': [{'text': '', 'top': 112, 'value': 'Mauris urna, turpis lectus. Velit tincidunt.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 81, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 35, 'children': [{'top': 242, 'height': 84, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 36, 'children': [{'top': 242, 'height': 16, 'width': 214, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD', 'top': 242, 'height': 16, 'width': 214, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 242}], 'left': 242}, {'top': 259, 'height': 66, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 39, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 259, 'height': 66, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 40, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 362, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 41, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 42, 'children': [], 'left': 48}, {'text': '', 'top': 384, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 43, 'children': [], 'left': 48}, {'text': '', 'top': 406, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 44, 'children': [], 'left': 48}, {'text': '', 'top': 428, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 45, 'children': [], 'left': 48}, {'text': '', 'top': 450, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 46, 'children': [], 'left': 48}, {'text': '', 'top': 486, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 47, 'children': [], 'left': 0}, {'text': '', 'top': 516, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 48, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 516, 'height': 22, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 49, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 156 |
Find the 6th word in the paragraph, type that into the textbox and press "Submit".
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 98, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'text': 'Dolor eget. Et faucibus. Eget. Sagittis', 'top': 62, 'height': 22, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 4, 'children': [], 'left': 2}, {'text': '', 'top': 97, 'value': 'Sagittis', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 5, 'children': [], 'left': 2}, {'text': 'Submit', 'top': 119, 'height': 26, 'width': 87, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 6, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 7, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 8, 'children': [{'top': 242, 'height': 15, 'width': 127, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'TASK: FIND-WORD', 'top': 242, 'height': 15, 'width': 127, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 10, 'children': [], 'left': 286}], 'left': 286}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 12, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 153, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 360, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 99}, {'text': '', 'top': 384, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 99}, {'text': '', 'top': 409, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 16, 'children': [], 'left': 99}, {'text': '', 'top': 434, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 99}, {'text': '', 'top': 458, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 18, 'children': [], 'left': 99}, {'text': '', 'top': 494, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 19, 'children': [], 'left': 0}, {'text': '', 'top': 524, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 20, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 524, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 21, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 17,289 |
Click the button in the dialog box labeled "Cancel".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'text': '', 'top': 50, 'height': 104, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 4, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 16, 'width': 159, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 16, 'width': 159, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 270}], 'left': 270}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 10, 'children': [{'text': '', 'top': 357, 'value': 'Click the button in the bottom names as Ca', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 11, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 16, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 17, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 0}], 'left': 0}, {'top': 58, 'height': 124, 'width': 131, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 19, 'children': [{'top': 61, 'height': 21, 'width': 125, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 20, 'children': [{'text': '', 'top': 65, 'height': 11, 'width': 105, 'tag': 'SPAN', 'id': 'ui-id-1', 'classes': 'ui-dialog-title', 'ref': 21, 'children': [], 'left': 14}, {'top': 61, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 22, 'children': [{'text': '', 'top': 63, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 23, 'children': [], 'left': 113}, {'text': 'Close', 'top': 66, 'height': 11, 'width': 25, 'tag': 't', 'ref': -374, 'children': [], 'left': -4891}], 'left': 111}], 'left': 10}, {'top': 82, 'height': 52, 'width': 125, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 24, 'children': [{'text': 'Enim. Quam arcu sed lectus semper arcu.', 'top': 97, 'height': 22, 'width': 105, 'tag': 'P', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 20}], 'left': 10}, {'top': 139, 'height': 40, 'width': 125, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 26, 'children': [{'top': 143, 'height': 31, 'width': 97, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 27, 'children': [{'text': 'Cancel', 'top': 148, 'height': 21, 'width': 53, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 28, 'children': [], 'left': 27}, {'text': 'OK', 'top': 148, 'height': 21, 'width': 36, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 29, 'children': [], 'left': 84}], 'left': 27}], 'left': 10}, {'text': '', 'top': 59, 'height': 2, 'width': 129, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 30, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 122, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 31, 'children': [], 'left': 135}, {'text': '', 'top': 179, 'height': 2, 'width': 129, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 32, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 122, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 33, 'children': [], 'left': 8}, {'text': '', 'top': 174, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 34, 'children': [], 'left': 130}, {'text': '', 'top': 174, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 35, 'children': [], 'left': 8}, {'text': '', 'top': 59, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 36, 'children': [], 'left': 130}, {'text': '', 'top': 59, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 37, 'children': [], 'left': 8}], 'left': 7}], 'left': 0}
|
keydown:0
| 1,727 |
Navigate through the file tree. Find and click on the folder or file named "Cheree".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'focused': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 72, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 68, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': '', 'ref': 4, 'children': [{'top': 52, 'height': 68, 'width': 156, 'tag': 'UL', 'id': 'tree', 'classes': 'filetree treeview', 'ref': 5, 'children': [{'top': 52, 'height': 17, 'width': 156, 'tag': 'LI', 'id': '', 'classes': 'expandable', 'ref': 6, 'children': [{'text': '', 'top': 53, 'height': 16, 'width': 16, 'tag': 'DIV', 'tampered': 1, 'id': '', 'classes': 'hitarea expandable-hitarea', 'ref': 7, 'children': [], 'left': 2}, {'text': 'Michel', 'top': 53, 'height': 15, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'folder', 'ref': 8, 'children': [], 'left': 18}], 'left': 2}, {'top': 69, 'height': 17, 'width': 156, 'tag': 'LI', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': 'Vina', 'top': 70, 'height': 15, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'file', 'ref': 10, 'children': [], 'left': 18}], 'left': 2}, {'top': 86, 'height': 17, 'width': 156, 'tag': 'LI', 'id': '', 'classes': 'expandable', 'ref': 11, 'children': [{'text': '', 'top': 87, 'height': 16, 'width': 16, 'tag': 'DIV', 'tampered': 1, 'id': '', 'classes': 'hitarea expandable-hitarea', 'ref': 12, 'children': [], 'left': 2}, {'text': 'Annis', 'top': 87, 'height': 15, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'folder', 'ref': 13, 'children': [], 'left': 18}], 'left': 2}, {'top': 103, 'height': 17, 'width': 156, 'tag': 'LI', 'id': '', 'classes': 'expandable lastExpandable', 'ref': 14, 'children': [{'text': '', 'top': 104, 'height': 16, 'width': 16, 'tag': 'DIV', 'id': '', 'classes': 'hitarea expandable-hitarea lastExpandable-hitarea', 'ref': 15, 'children': [], 'left': 2}, {'text': 'Kasie', 'top': 104, 'height': 15, 'width': 140, 'tag': 'SPAN', 'id': '', 'classes': 'folder', 'ref': 16, 'children': [], 'left': 18}], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 17, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 18, 'children': [{'top': 242, 'height': 16, 'width': 151, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 19, 'children': [{'text': 'TASK: NAVIGATE-TREE', 'top': 242, 'height': 16, 'width': 151, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 20, 'children': [], 'left': 274}], 'left': 274}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 21, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 22, 'children': [], 'left': 3}], 'left': 3}], 'left': 0}, {'top': 373, 'height': 140, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 23, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 24, 'children': [], 'left': 48}, {'text': '', 'top': 395, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 25, 'children': [], 'left': 48}, {'text': '', 'top': 417, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 26, 'children': [], 'left': 48}, {'text': '', 'top': 439, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 27, 'children': [], 'left': 48}, {'text': '', 'top': 461, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 29, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 30, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 22, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 31, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
click
| 18,293 |
Select Uo, qhAkOm, WWBtj, APMOD, 4wnfhig, v7, 4XX5w, 4upEMBP, EE, A1V and click Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 25, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 26, 'children': [{'top': 50, 'height': 130, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 27, 'children': [{'top': 52, 'height': 95, 'width': 65, 'tag': 'DIV', 'id': 'boxes-left', 'classes': '', 'ref': 28, 'children': [{'top': 59, 'height': 11, 'width': 61, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 1, 'children': [{'text': '', 'top': 55, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'focused': 1, 'id': 'ch0', 'tampered': 1, 'classes': '', 'ref': 2, 'children': [], 'left': 6}, {'text': '4wnfhig', 'top': 59, 'height': 11, 'width': 34, 'tag': 't', 'ref': -391, 'children': [], 'left': 29}], 'left': 2}, {'top': 78, 'height': 11, 'width': 37, 'tag': 'LABEL', 'recordingTarget': 1, 'id': '', 'classes': '', 'ref': 3, 'children': [{'text': '', 'top': 74, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch1', 'classes': '', 'ref': 4, 'children': [], 'left': 6}, {'text': 'v7', 'top': 78, 'height': 11, 'width': 10, 'tag': 't', 'ref': -392, 'children': [], 'left': 29}], 'left': 2}, {'top': 97, 'height': 11, 'width': 65, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch2', 'classes': '', 'ref': 6, 'children': [], 'left': 6}, {'text': 'qhAkOm', 'top': 97, 'height': 11, 'width': 38, 'tag': 't', 'ref': -393, 'children': [], 'left': 29}], 'left': 2}, {'top': 116, 'height': 11, 'width': 57, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 112, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch3', 'classes': '', 'ref': 8, 'children': [], 'left': 6}, {'text': 'WWBtj', 'top': 116, 'height': 11, 'width': 30, 'tag': 't', 'ref': -394, 'children': [], 'left': 29}], 'left': 2}, {'top': 135, 'height': 11, 'width': 58, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 131, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch4', 'classes': '', 'ref': 10, 'children': [], 'left': 6}, {'text': '4XX5w', 'top': 135, 'height': 11, 'width': 31, 'tag': 't', 'ref': -395, 'children': [], 'left': 29}], 'left': 2}], 'left': 2}, {'top': 52, 'height': 95, 'width': 72, 'tag': 'DIV', 'id': 'boxes-right', 'classes': '', 'ref': 41, 'children': [{'top': 59, 'height': 11, 'width': 40, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch5', 'classes': '', 'ref': 12, 'children': [], 'left': 71}, {'text': 'EE', 'top': 59, 'height': 11, 'width': 13, 'tag': 't', 'ref': -396, 'children': [], 'left': 94}], 'left': 67}, {'top': 78, 'height': 11, 'width': 45, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 13, 'children': [{'text': '', 'top': 74, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch6', 'classes': '', 'ref': 14, 'children': [], 'left': 71}, {'text': 'A1V', 'top': 78, 'height': 11, 'width': 18, 'tag': 't', 'ref': -397, 'children': [], 'left': 94}], 'left': 67}, {'top': 97, 'height': 11, 'width': 39, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 15, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch7', 'classes': '', 'ref': 16, 'children': [], 'left': 71}, {'text': 'Uo', 'top': 97, 'height': 11, 'width': 12, 'tag': 't', 'ref': -398, 'children': [], 'left': 94}], 'left': 67}, {'top': 116, 'height': 11, 'width': 63, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 17, 'children': [{'text': '', 'top': 112, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch8', 'classes': '', 'ref': 18, 'children': [], 'left': 71}, {'text': 'APMOD', 'top': 116, 'height': 11, 'width': 36, 'tag': 't', 'ref': -399, 'children': [], 'left': 94}], 'left': 67}, {'top': 135, 'height': 11, 'width': 72, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 19, 'children': [{'text': '', 'top': 131, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch9', 'classes': '', 'ref': 20, 'children': [], 'left': 71}, {'text': '4upEMBP', 'top': 135, 'height': 11, 'width': 45, 'tag': 't', 'ref': -400, 'children': [], 'left': 94}], 'left': 67}], 'left': 67}, {'text': 'Submit', 'top': 147, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 54, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 55, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 56, 'children': [{'top': 242, 'height': 16, 'width': 245, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 57, 'children': [{'text': 'TASK: CLICK-CHECKBOXES-LARGE', 'top': 242, 'height': 16, 'width': 245, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 58, 'children': [], 'left': 227}], 'left': 227}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 59, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 60, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 61, 'children': [{'text': '', 'top': 357, 'value': 'click the one by one option', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 62, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': 'and submit', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 63, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 64, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 65, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 66, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 67, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 68, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 69, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
mousedown
| 13,862 |
Find the email by Sharron and forward that email to Martynne.
{'top': 0, 'height': 210, 'width': 1339, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 164, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 160, 'width': 156, 'tag': 'DIV', 'id': 'forward', 'classes': '', 'ref': 201, 'children': [{'top': 52, 'height': 21, 'width': 156, 'tag': 'DIV', 'id': 'forward-bar', 'classes': '', 'ref': 202, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 12, 'tag': 'SPAN', 'id': 'close-forward', 'classes': '', 'ref': 203, 'children': [], 'left': 5}, {'text': '', 'top': 55, 'height': 14, 'width': 14, 'tag': 'SPAN', 'id': 'send-forward', 'classes': '', 'ref': 204, 'children': [], 'left': 141}], 'left': 2}, {'top': 73, 'height': 38, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-header', 'ref': 205, 'children': [{'top': 73, 'height': 22, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-info', 'ref': 206, 'children': [{'text': 'to:', 'top': 79, 'height': 11, 'width': 15, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 207, 'children': [], 'left': 4}, {'text': '', 'top': 75, 'value': '', 'height': 17, 'width': 120, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': '', 'tampered': 1, 'classes': 'forward-sender', 'ref': 208, 'children': [], 'left': 19}], 'left': 2}, {'top': 95, 'height': 16, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-subject', 'ref': 209, 'children': [{'text': 'subject:', 'top': 97, 'height': 11, 'width': 41, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 210, 'children': [], 'left': 4}, {'text': 'Amet, nunc.', 'top': 97, 'height': 11, 'width': 53, 'tag': 't', 'ref': -613, 'children': [], 'left': 45}], 'left': 2}], 'left': 2}, {'top': 111, 'height': 101, 'width': 156, 'tag': 'DIV', 'id': '', 'classes': 'forward-body', 'ref': 211, 'children': [{'text': '', 'top': 111, 'value': 'Id. Velit. Eget. Nam egestas auctor leo auctor.', 'height': 99, 'width': 154, 'tag': 'TEXTAREA', 'id': 'forward-text', 'classes': '', 'ref': 212, 'children': [], 'left': 2}], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 35, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 36, 'children': [{'top': 242, 'height': 16, 'width': 214, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 37, 'children': [{'text': 'TASK: EMAIL-INBOX-FORWARD', 'top': 242, 'height': 16, 'width': 214, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 38, 'children': [], 'left': 242}], 'left': 242}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 39, 'children': [{'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 40, 'children': [{'text': 'Click', 'top': 258, 'height': 16, 'width': 39, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 41, 'children': [], 'left': 4}, {'text': 'START to reveal the task description -- experiment with the interface multiple times to ensure that', 'top': 258, 'height': 16, 'width': 652, 'tag': 't', 'ref': -614, 'children': [], 'left': 43}, {'text': 'you learn how to accomplish the task. Then,', 'top': 274, 'height': 16, 'width': 297, 'tag': 't', 'ref': -615, 'children': [], 'left': 43}, {'text': 'please', 'top': 274, 'height': 16, 'width': 49, 'tag': 'I', 'id': '', 'classes': 'chrome-extension-mutihighlight chrome-extension-mutihighlight-style-6', 'ref': 42, 'children': [], 'left': 341}, {'text': 'explain to the AI assistant (in step-wise', 'top': 274, 'height': 16, 'width': 264, 'tag': 't', 'ref': -616, 'children': [], 'left': 391}, {'text': 'instructions) how to do this task. Your instructions should be general enough to explain how to', 'top': 290, 'height': 16, 'width': 634, 'tag': 't', 'ref': -617, 'children': [], 'left': 32}, {'text': 'accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel', 'top': 306, 'height': 16, 'width': 694, 'tag': 't', 'ref': -618, 'children': [], 'left': 2}, {'text': 'appropriate', 'top': 322, 'height': 16, 'width': 77, 'tag': 't', 'ref': -619, 'children': [], 'left': 311}], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 373, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 43, 'children': [{'text': '', 'top': 373, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 44, 'children': [], 'left': 48}, {'text': '', 'top': 394, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 45, 'children': [], 'left': 48}, {'text': '', 'top': 415, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 46, 'children': [], 'left': 48}, {'text': '', 'top': 436, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 47, 'children': [], 'left': 48}, {'text': '', 'top': 457, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 48, 'children': [], 'left': 48}, {'text': '', 'top': 492, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 49, 'children': [], 'left': 0}, {'text': '', 'top': 522, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 50, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 522, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 51, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 17,387 |
Click the button in the dialog box labeled "OK".
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'text': '', 'top': 50, 'height': 104, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 4, 'children': [{'top': 242, 'height': 96, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 5, 'children': [{'top': 242, 'height': 16, 'width': 156, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 6, 'children': [{'text': 'TASK: CLICK-DIALOG-2', 'top': 242, 'height': 16, 'width': 156, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 7, 'children': [], 'left': 272}], 'left': 272}, {'top': 258, 'height': 80, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 80, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 9, 'children': [], 'left': 3}], 'left': 3}], 'left': 0}, {'top': 373, 'height': 140, 'width': 700, 'tag': 'FORM', 'tampered': 1, 'id': 'input-text', 'classes': '', 'ref': 10, 'children': [{'text': '', 'top': 373, 'value': 'Focus on the last word of the task description', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 11, 'children': [], 'left': 48}, {'text': '', 'top': 395, 'value': 'Look for this word in the webpage', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 12, 'children': [], 'left': 48}, {'text': '', 'top': 417, 'value': 'Click on the box where this word is', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 13, 'children': [], 'left': 48}, {'text': '', 'top': 439, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 14, 'children': [], 'left': 48}, {'text': '', 'top': 461, 'value': '', 'height': 22, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 15, 'children': [], 'left': 48}, {'text': '', 'top': 497, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 16, 'children': [], 'left': 0}, {'text': '', 'top': 527, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 17, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 527, 'height': 22, 'width': 95, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 18, 'children': [], 'left': 0}], 'left': 0}, {'top': 49, 'height': 156, 'width': 124, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog ui-corner-all ui-widget ui-widget-content ui-front ui-dialog-buttons ui-draggable ui-resizable', 'ref': 19, 'children': [{'top': 52, 'height': 21, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-titlebar ui-corner-all ui-widget-header ui-helper-clearfix ui-draggable-handle', 'ref': 20, 'children': [{'text': '', 'top': 56, 'height': 12, 'width': 99, 'tag': 'SPAN', 'id': 'ui-id-1', 'classes': 'ui-dialog-title', 'ref': 21, 'children': [], 'left': 14}, {'top': 53, 'height': 20, 'width': 20, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget ui-button-icon-only ui-dialog-titlebar-close', 'ref': 22, 'children': [{'text': '', 'top': 55, 'height': 16, 'width': 16, 'tag': 'SPAN', 'id': '', 'classes': 'ui-button-icon ui-icon ui-icon-closethick', 'ref': 23, 'children': [], 'left': 106}, {'text': 'Close', 'top': 56, 'height': 13, 'width': 26, 'tag': 't', 'ref': -880, 'children': [], 'left': -4898}], 'left': 104}], 'left': 10}, {'top': 73, 'height': 82, 'width': 118, 'tag': 'DIV', 'id': 'dialog', 'classes': 'ui-dialog-content ui-widget-content', 'ref': 24, 'children': [{'text': 'Aliquam cras tellus pellentesque malesuada imperdiet. Egestas.', 'top': 88, 'height': 52, 'width': 98, 'tag': 'P', 'id': '', 'classes': '', 'ref': 25, 'children': [], 'left': 20}], 'left': 10}, {'top': 160, 'height': 42, 'width': 118, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonpane ui-widget-content ui-helper-clearfix', 'ref': 26, 'children': [{'top': 164, 'height': 33, 'width': 100, 'tag': 'DIV', 'id': '', 'classes': 'ui-dialog-buttonset', 'ref': 27, 'children': [{'text': 'Cancel', 'top': 169, 'height': 23, 'width': 55, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 28, 'children': [], 'left': 18}, {'text': 'OK', 'top': 169, 'height': 23, 'width': 37, 'tag': 'BUTTON', 'id': '', 'classes': 'ui-button ui-corner-all ui-widget', 'ref': 29, 'children': [], 'left': 77}], 'left': 18}], 'left': 10}, {'text': '', 'top': 50, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-n', 'ref': 30, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-e', 'ref': 31, 'children': [], 'left': 128}, {'text': '', 'top': 202, 'height': 2, 'width': 122, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-s', 'ref': 32, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 154, 'width': 2, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-w', 'ref': 33, 'children': [], 'left': 8}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-se ui-icon ui-icon-gripsmall-diagonal-se', 'ref': 34, 'children': [], 'left': 123}, {'text': '', 'top': 197, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-sw', 'ref': 35, 'children': [], 'left': 8}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-ne', 'ref': 36, 'children': [], 'left': 123}, {'text': '', 'top': 50, 'height': 7, 'width': 7, 'tag': 'DIV', 'id': '', 'classes': 'ui-resizable-handle ui-resizable-nw', 'ref': 37, 'children': [], 'left': 8}], 'left': 7}], 'left': 0}
|
keyup:0
| 8,028 |
Copy the text in the textarea below, paste it into the textbox and press Submit.
{'top': 0, 'height': 210, 'width': 816, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 3, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 4, 'children': [{'top': 50, 'height': 130, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 5, 'children': [{'top': 52, 'height': 95, 'width': 156, 'tag': 'DIV', 'id': 'container', 'classes': '', 'ref': 6, 'children': [{'text': '', 'top': 52, 'value': 'Sodales pharetra integer at diam tempus. Ut nisi, semper ', 'height': 66, 'width': 136, 'tag': 'TEXTAREA', 'id': 'to-copy', 'classes': '', 'ref': 1, 'children': [], 'left': 2}, {'text': '', 'top': 123, 'value': '', 'height': 21, 'width': 124, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 2, 'children': [], 'left': 2}], 'left': 2}, {'text': 'Submit', 'top': 147, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'tampered': 1, 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 9, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 10, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 11, 'children': [{'top': 242, 'height': 16, 'width': 134, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 12, 'children': [{'text': 'TASK: COPY-PASTE', 'top': 242, 'height': 16, 'width': 134, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 13, 'children': [], 'left': 282}], 'left': 282}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 165, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 16, 'children': [{'text': '', 'top': 360, 'value': 'Copy the text present in the text area', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'tampered': 1, 'id': 'answer-input', 'classes': '', 'ref': 17, 'children': [], 'left': 48}, {'text': '', 'top': 387, 'value': 'Paste the text into the textbox in', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 18, 'children': [], 'left': 48}, {'text': '', 'top': 414, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 48}, {'text': '', 'top': 468, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 48}, {'text': '', 'top': 506, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 22, 'children': [], 'left': 0}, {'text': '', 'top': 536, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 23, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 536, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 24, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keydown:0
| 23,627 |
Select q6L, xrji6m, Bm, VzseZY, 1CST and click Submit.
{'top': 0, 'height': 210, 'width': 1366, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 111, 'width': 160, 'tag': 'DIV', 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 52, 'height': 76, 'width': 52, 'tag': 'DIV', 'id': 'boxes-left', 'classes': '', 'ref': 4, 'children': [{'top': 59, 'height': 11, 'width': 36, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': '', 'top': 55, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch0', 'classes': '', 'ref': 6, 'children': [], 'left': 6}, {'text': 'Yt', 'top': 59, 'height': 11, 'width': 9, 'tag': 't', 'ref': -1730, 'children': [], 'left': 29}], 'left': 2}, {'top': 78, 'height': 11, 'width': 42, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 7, 'children': [{'text': '', 'top': 74, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch1', 'classes': '', 'ref': 8, 'children': [], 'left': 6}, {'text': 'Bm', 'top': 78, 'height': 11, 'width': 15, 'tag': 't', 'ref': -1731, 'children': [], 'left': 29}], 'left': 2}, {'top': 97, 'height': 11, 'width': 52, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 9, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch2', 'classes': '', 'ref': 10, 'children': [], 'left': 6}, {'text': '1CST', 'top': 97, 'height': 11, 'width': 25, 'tag': 't', 'ref': -1732, 'children': [], 'left': 29}], 'left': 2}, {'top': 116, 'height': 11, 'width': 42, 'tag': 'LABEL', 'id': '', 'classes': '', 'ref': 11, 'children': [{'text': '', 'top': 112, 'value': 0, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'id': 'ch3', 'classes': '', 'ref': 12, 'children': [], 'left': 6}, {'text': 'kdJ', 'top': 116, 'height': 11, 'width': 15, 'tag': 't', 'ref': -1733, 'children': [], 'left': 29}], 'left': 2}], 'left': 2}, {'top': 52, 'height': 57, 'width': 62, 'tag': 'DIV', 'tampered': 1, 'id': 'boxes-right', 'classes': '', 'ref': 13, 'children': [{'top': 59, 'height': 11, 'width': 53, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': '', 'top': 55, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch4', 'classes': '', 'ref': 15, 'children': [], 'left': 58}, {'text': 'xrji6m', 'top': 59, 'height': 11, 'width': 26, 'tag': 't', 'ref': -1734, 'children': [], 'left': 81}], 'left': 54}, {'top': 78, 'height': 11, 'width': 43, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': '', 'top': 74, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch5', 'classes': '', 'ref': 17, 'children': [], 'left': 58}, {'text': 'q6L', 'top': 78, 'height': 11, 'width': 16, 'tag': 't', 'ref': -1735, 'children': [], 'left': 81}], 'left': 54}, {'top': 97, 'height': 11, 'width': 62, 'tag': 'LABEL', 'tampered': 1, 'id': '', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 93, 'value': 1, 'height': 13, 'width': 20, 'tag': 'INPUT_checkbox', 'tampered': 1, 'id': 'ch6', 'classes': '', 'ref': 19, 'children': [], 'left': 58}, {'text': 'VzseZY', 'top': 97, 'height': 11, 'width': 35, 'tag': 't', 'ref': -1736, 'children': [], 'left': 81}], 'left': 54}], 'left': 54}, {'text': 'Submit', 'top': 128, 'height': 31, 'width': 95, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 20, 'children': [], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 21, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 22, 'children': [{'top': 242, 'height': 16, 'width': 245, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 23, 'children': [{'text': 'TASK: CLICK-CHECKBOXES-LARGE', 'top': 242, 'height': 16, 'width': 245, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 24, 'children': [], 'left': 227}], 'left': 227}, {'top': 258, 'height': 64, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 25, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 64, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 135, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 27, 'children': [{'text': '', 'top': 357, 'value': 'click the one by one opt', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'answer-input', 'tampered': 1, 'classes': '', 'ref': 28, 'children': [], 'left': 48}, {'text': '', 'top': 378, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 29, 'children': [], 'left': 48}, {'text': '', 'top': 399, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 30, 'children': [], 'left': 48}, {'text': '', 'top': 420, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 31, 'children': [], 'left': 48}, {'text': '', 'top': 441, 'value': '', 'height': 21, 'width': 604, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 32, 'children': [], 'left': 48}, {'text': '', 'top': 476, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 33, 'children': [], 'left': 0}, {'text': '', 'top': 506, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 34, 'children': [], 'left': 588}], 'left': 0}, {'text': 'Add new step', 'top': 506, 'height': 21, 'width': 96, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 35, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 20,071 |
Enter the username "kenda" and the password "k7aZ" into the text fields and press login.
{'top': 0, 'height': 210, 'width': 1256, 'tag': 'BODY', 'id': '', 'classes': '', 'ref': 1, 'children': [{'top': 0, 'height': 210, 'width': 160, 'tag': 'DIV', 'id': 'wrap', 'classes': '', 'ref': 2, 'children': [{'top': 50, 'height': 140, 'width': 160, 'tag': 'DIV', 'tampered': 1, 'id': 'area', 'classes': '', 'ref': 3, 'children': [{'top': 62, 'height': 126, 'width': 156, 'tag': 'DIV', 'id': 'form', 'classes': '', 'ref': 4, 'children': [{'top': 62, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 5, 'children': [{'text': 'Username', 'top': 62, 'height': 11, 'width': 48, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 6, 'children': [], 'left': 2}, {'text': '', 'top': 78, 'value': 'ken', 'height': 18, 'width': 126, 'tag': 'INPUT_text', 'focused': 1, 'recordingTarget': 1, 'id': 'username', 'tampered': 1, 'classes': '', 'ref': 7, 'children': [], 'left': 7}], 'left': 2}, {'top': 112, 'height': 40, 'width': 156, 'tag': 'P', 'id': '', 'classes': '', 'ref': 8, 'children': [{'text': 'Password', 'top': 112, 'height': 11, 'width': 47, 'tag': 'LABEL', 'id': '', 'classes': 'bold', 'ref': 9, 'children': [], 'left': 2}, {'text': '', 'top': 128, 'value': '', 'height': 18, 'width': 106, 'tag': 'INPUT_password', 'id': 'password', 'classes': '', 'ref': 10, 'children': [], 'left': 7}], 'left': 2}, {'text': 'OK', 'top': 162, 'height': 26, 'width': 67, 'tag': 'BUTTON', 'id': 'subbtn', 'classes': 'secondary-action', 'ref': 11, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}], 'left': 0}, {'top': 224, 'height': 400, 'width': 700, 'tag': 'DIV', 'id': 'desk', 'classes': '', 'ref': 12, 'children': [{'top': 242, 'height': 80, 'width': 700, 'tag': 'H4', 'id': '', 'classes': '', 'ref': 13, 'children': [{'top': 242, 'height': 15, 'width': 187, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 14, 'children': [{'text': 'TASK: LOGIN-USER-POPUP', 'top': 242, 'height': 15, 'width': 187, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 15, 'children': [], 'left': 256}], 'left': 256}, {'top': 258, 'height': 63, 'width': 694, 'tag': 'SPAN', 'id': '', 'classes': '', 'ref': 16, 'children': [{'text': 'Click START to reveal the task description -- experiment with the interface multiple times to ensure that you learn how to accomplish the task. Then, please explain to the AI assistant (in step-wise instructions) how to do this task. Your instructions should be general enough to explain how to accomplish the task multiple times (rather than a particular instantiation). Use as many steps as you feel appropriate', 'top': 258, 'height': 63, 'width': 694, 'tag': 'STRONG', 'id': '', 'classes': '', 'ref': 17, 'children': [], 'left': 2}], 'left': 2}], 'left': 0}, {'top': 357, 'height': 173, 'width': 700, 'tag': 'FORM', 'id': 'input-text', 'classes': '', 'ref': 18, 'children': [{'text': '', 'top': 362, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 19, 'children': [], 'left': 99}, {'text': '', 'top': 390, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 20, 'children': [], 'left': 99}, {'text': '', 'top': 419, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 21, 'children': [], 'left': 99}, {'text': '', 'top': 448, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 22, 'children': [], 'left': 99}, {'text': '', 'top': 476, 'value': '', 'height': 18, 'width': 501, 'tag': 'INPUT_text', 'id': 'answer-input', 'classes': '', 'ref': 23, 'children': [], 'left': 99}, {'text': '', 'top': 514, 'height': 16, 'width': 700, 'tag': 'P', 'id': 'space-after-inputs', 'classes': '', 'ref': 24, 'children': [], 'left': 0}, {'text': '', 'top': 549, 'value': '', 'height': 47, 'width': 112, 'tag': 'INPUT_image', 'id': 'submit-button', 'classes': '', 'ref': 25, 'children': [], 'left': 583}], 'left': 0}, {'text': 'Add new step', 'top': 544, 'height': 17, 'width': 83, 'tag': 'BUTTON', 'id': '', 'classes': '', 'ref': 26, 'children': [], 'left': 0}], 'left': 0}], 'left': 0}
|
keyup:0
| 22,369 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.