Add close to check for file sizes

Add atomic read tests

Add raw GET tests

Add dependency on isodate.

Commit ea3f73ef904d899ed28449bdc5d2bd5d7ff489f8 made
s3tests use isodate, but did not depend on it.

add bucket list data vs object data comparison tests

* test_bucket_list_return_data
* test_bucket_list_object_time

remove superfluous code in test_bucket_list_maxkeys_zero

remove fails_on_dho on passing tests

* test_object_set_get_metadata_empty_to_unreadable_prefix
* test_object_set_get_metadata_empty_to_unreadable_suffix
* test_object_set_get_metadata_empty_to_unreadable_infix
* test_object_set_get_metadata_overwrite_to_unreadable_prefix
* test_object_set_get_metadata_overwrite_to_unreadable_suffix
* test_object_set_get_metadata_overwrite_to_unreadable_infix

Switch test_bucket_list_maxkeys_unreadble to use '\n' instead of '\a'.

This avoids the SAX parser error. It also gave a different error code
from Amazon.

Switch tests using '\a' to '\n'

As noted in ce3d448d64aeb3228305863b4b2d35dd8f2aaec6, This will avoid
SAX parser errors.

remove contentlength zero header test

This test effectively tells the server that this request will contain no
data and any data in the body should be interpreted to be part of the
next request. By luck, we close the tcp connection beforehand so we
don't see this additional data. However, the issues caused here would
not be at the rgw/dho level.

Flag test_object_create_bad_contenttype_unreadable as failing on both RGW and DHO.

DHO does not support bucket logging currently.

Switch test_object_create_unreadable to use '\n' instead of '\a'.

This avoids a SAX/boto interaction bug that is not of much interest,
yet still seems "evil" enough that it fulfills the original intent
of the test.

Add a link to the relevant bug report.

Flag test_bucket_list_maxkeys_unreadable as failing on dho & rgw.

Flag some fails_on_dho tests as fails_on_rgw too.

Test that S3 object write replaces the metadata.

See http://tracker.newdream.net/issues/1352

Test S3 api for handling of Content-MD5 that does not match.

The existing test_object_create_bad_md5_invalid is not valid
base64, and hence triggers a different code path. This time,
submit valid base64, but have the result not match the expected
md5sum.

refactor/add additional prefix/delimiter bucket list tests

add marker bucket list tests

add maxkeys bucket list tests

add test for no bucket list delimiter

add test for checking bucket list with no prefix

add non-existant prefix bucket list test

remove fails_on_dho/rgw on test_bucket_list_many

create additional parameterized bucket list tests

* Test on prefix and delimiter, including slash and non-slash
  delimiters.

add Authorization header tests

refactor header update logic

Demonstrate rgw bucket listing bug.

Discovered by stumbling on the "deleted_cnt" workaround
in s3tests.common.

TODO: Add tests for rest of the functionality in
http://docs.amazonwebservices.com/AmazonS3/latest/API/index.html?RESTBucketGET.html

RandomContentFile.start_time is never used, remove.

support multiple boto versions for header writing

Depending on the version of boto, different methods are necessary for
manipulating headers. We now support 2.0rc1 and 2.0 by sub-classing
boto.s3.connection.S3Connection and overloading
boto.connection.HTTPRequest.authorize, respectfully.

s3-tests: Object download response code test

If a client specifies a range when requesting an object the server should
respond with 206 Partial Content when answering a request to get an object,
not 200 OK.  It should also respond with only those bytes requested.

This commit introduces a test, test_ranged_request_response_code, that
checks those criteria.

change utf8 -> unreadable on header tests

Measure and record duration of write and read stages in roundtrip test.

add Date header tests

add a Content-Type header test

update Content-Length header tests

* Add more tests
* Add nose.with_setup on some tests

add another Expect header test

update MD5 header tests

* Rename a test
* Add more tests

add User-Agent header tests

subclass S3Connection  class for headers

This makes it possible to overwrite all headers

Remove dead code.

Convert s3tests.common back to a module.

Code in __init__.py is evil.

Remove dead code.

Rewrite roundtrip test based on the readwrite one.

They probably should share more code in the future, but it's only
200 lines of python, so I'm not all that worried.

Let config file control random number generator seeds in detail.

No shebang lines for setup.py-managed scripts.

Make readwrite test not use unittest setup/teardown logic.

Refactor bucket nuking in cleanup.

Refactor S3 connection opening.

Refactor config file reading.

Rename rand_readwrite to readwrite.

Simpler, and all the benchmarks are pretty much as pseudorandom,
in the end; that's not a relevant characteristic. The mix of read
and write operations is.

Re-run ./bootstrap to get the s3tests-test-readwrite script
regenerated to refer to the new module name.

Say ".yaml" not ".yml". This is not MS-DOS, and YML is a Yahoo XML dialect.

Don't bother with fractional nanoseconds.

<1 nanosecond is well below the threshold we can measure,
everything becomes simpler with integers, and they're easier
to skim.

Use a constant for nanoseconds-in-a-second.

State it in terms of 1e9 (as int not float). My eyes get
blurry from that many zeros.

Remove unused import.

Avoid built-in "file" as variable name.

Revert "adding max_amount to realistic.names generator"

This is now unused code.

This reverts commit 52ba1d4fbf9b3547f8fd27199cf2c4f2c59dbd45.

Use itertools.islice instead of special-casing generator slicing.

improve comment wording in sample config

added sample yaml config for readwrite tool

moved most readwrite tool command-line opts to config file

The only remaining command-line options are setting the random seed
and --no-cleanup.

remove extraneous #TODO

use stderr for non-yml output in readwrite tool

stdout should now only contain the yml output.

fix yml format in readwrite tool

Now will print the chunks out one line per chunk instead of splitting
them accross multiple lines.

adding chunks to readwrite tool output

fix readwrite tool file sizes

Makes the file sizes specified correctly in KB instead of B

readwrite tool improvements

Now generates a list of filenames to use duing the setup, and passes this
list to the workers rather than having the workers list the bucket contents
or generate file names themselves.

Added a "warmup" stage that first writes out all the files so that content
exists for each filename.

Added setting the random seed as a command line parameter and uses this seed
for both generating the file names and the file content generator.

adding max_amount to realistic.names generator

Set max_amount to limit the number of names yeilded by the generator.

add Content-Type object tests

add header-manipulation tests

These tests are based on explicitly modifying headers in some way.

add test_object_create_unreadable

test consistency of bucket acls, exercises cache

add test_bucket_acl_no_grants

When the owner has no grants on their bucket, they should not be able to
write to it, but still read and write the ACL. Amazon allows users to
read the bucket, and our behavior is consistent with this.

Handle and report errors in readwrite test workers.

Say "worker_id" instead of name, as I keep confusing it with filenames.

Link worker greenlets to parent, so we abort if they have an unhandled exception.

Code layout cleanup.

Make readwrite test put objects one by one, so it can report keys.

Remove the concept of batches from readwrite test.

That's an internal implementation detail caused by
the generate_objects api.

Don't eat exceptions, that's a bad habit.

Log readwrite test results in yaml.

This temporarily removes the statistics calculation; that
belongs somewhere else anyway, so it can be run on aggregated
results etc.

Use more idiomatic Python.

Make queue and name arguments not optional; they're always passed in anyway.

Move end test logic out of individual workers.

Parent waits for the duration anyway, just make it unconditionally
kill the workers. They already had timeouts aborting them; they may
be in the middle of an operation, but we really don't care, time's up.

This also avoids oddities with the queue where there may be items
after the StopIteration.

This also avoids workers potentially not exiting within the 1-second
timeout the old code had.

Use gevent Groups to manage groups of workers.

This mostly adds convenience functions, but it's nice to have.

refactor and fix some acl_grant tests

pep8 cleanup.

Pyflakes cleanup.

Remove dead code.

Merge branch 'roundtrip'

Revert "Add assert to RandomContentFile, ensure size >= digest_size"

This reverts commit fb8f110e690e68d6c37a76b5bc9e261ae3d7c50b.

realistic.files was meant to work just fine with short files. Commit
91c4f88860efa5f7d11d9cd6436ab30d78a83ab1 has a fix for the verifying
side, to support short files.

Conflicts:

s3tests/realistic.py

Swap stdout/stderr -- debug messages then go to stderr, and yaml data to stdout

Now that we no longer have the need to retry, get rid of that logic.

Also fix a typo -- s/neads_first_read/needs_first_read/

Resolve the random AssertionError

By doing a copy-new on the key, it seems to work around the random
AssertionError's I've been seeing. Here's hoping this fully
resolves it.

Adding unlimited=bool to files_varied -- if set to true, it will never issue StopIteration

Cleanup output just a little bit more.

Refactor/cleanup TransferResults class. Also cleans the output to be in the format TV seems to want.

Update roundtrip._main -- while loop should auto-replenish all pools,
and not ones so named.

Add assert to RandomContentFile, ensure size >= digest_size

It clearly will not work to have the size smaller than the digest
size, so we shouldn't allow it.

Rename _call_doit to _real_run -- it's a bit more clear that way, IMHO