Merge pull request #7 from wyllys66/issue6

Fixed contentlength_negative tests to ignore the error_code

Reviewed-by: Yehuda Sadeh <yehuda@inktank.com>

Fixed contentlength_negative tests to ignore the error_code

Merge remote-tracking branch 'gh/next'

Merge pull request #5 from ceph/wip-migrate-test1

generate_objects: use rewind=True in upload_objects

generate_objects: use rewind=True in upload_objects

Use the rewind=True argument when uploading objects to make
realistic.py's use of upload_objects compatible with boto>=2.4.1, which
will try to seek to the end of the fp if rewind is not True.

test_s3: reduce multipart tests sizes

Tests were dominating run time

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: test multi-part uploads using boto provided functionality.

Tests the implementation of multi-part upload and verifies written
object.

Signed-off-by: caleb miles <caleb.miles@inktank.com>

test_s3: Add test of ACL grants through HTTP headers.

Signed-off-by: caleb miles <caleb.miles@inktank.com>

test_s3: fix test_list_multipart_upload

test wasn't really testing what it should have

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: Add tests for additional canned acl support.

Corresponds to tracker issue 3667.

Signed-off-by: caleb miles <caleb.miles@inktank.com>

test_s3: check stats correct after multipart upload

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

requirements.txt: change requests package requirement

Specifying a specific version number (0.14.0). Newer version (1.1.0)
does not handle POST redirect correctly.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: fix post tests to include tcp port

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: remove more fails_on_dho tags

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: remove fails_on_dho tags

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: add test_object_copy_canned_acl

test copy object with canned acl modification

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

rgw: add missing fails_on_dho to post tests

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

s3tests: fix post tests

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: Add tests of post object.

Tests the implementation of browser based uploads via a POST request.

Signed-off-by: caleb miles <caleb.miles@inktank.com>

test_s3: Add a test of multi-object delete.

Tests the implementation of the multi-object delete function call.

Signed-off-by: caleb miles <caleb.miles@inktank.com>

test_s3: add a test for response header modification

Testing response header fields modification by specified params.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: remove extra code block

Code was duplicated by mistake. Removing it.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

Add strict RFC2616 attributes to metadata tests

Some proxies/load balancers may sanitize input and may remove
headers that are not RFC 2616 complaint. This allows several
tests to be skipped if you are putting one of these products
in front of an S3 compatible API.

annotate tests with fails_on_dho

Should be reverted once fixes are pushed to the dho branch.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test two cases in copying object to itself

 - should fail when not trying to change metadata
 - should succeed when changing metadata; also verify metadata

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

set boto version for 2.4.1

2.5.x has an issue when a 400 response is returned.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

boto: bump required version to 2.1

We now pass rewind param to key.set_contents_from_file,
which requires >= 2.1

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

realistic.py: update seek() implementation

seek() requires whence param. Missing it broke readwrite test with
boto 2.4.0.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: key.set_contents_from_file() rewind on dual write

This fixes a failure with boto 2.4.0.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

test_s3: fix FakeFile.seek(): handles whence param

beforehand we didn't accept the seek() whence param, which
failed with boto 2.4.0.

Signed-off-by: Yehuda Sadeh <yehuda@inktank.com>

add functional tests for bucket HEAD

Signed-off-by: Yehuda Sadeh <yehuda.sadeh@dreamhost.com>

functional: test that bucket recreation doesn't override index

This resolves issue #1853.

Signed-off-by: Yehuda Sadeh <yehuda.sadeh@dreamhost.com>

fix atomic_write test, don't resuse same key handle for read and write

set fails_on_dho on test_bucket_create_special_key_names

test '%' as a valid char for object name

add test_bucket_create_special_key_names

add test_object_copy_zero_size

precompute files in readwrite tool

Makes the readwrite tool precompute a set of files and reuse them
when writing objects rather than generating each file on the fly.

RGW test-case annotation for inventory.
Annotated S3 functional and error-detection test cases
with resource/method/operation/assertion properties to
enable automatic test case inventory generation.

Signed-off-by: Mark Kampe <mark.kampe@dreamhost.com>

Added descriptions of what the fuzzer is and does.

Signed-off-by: Mark Kampe <mark.kampe@dreamhost.com>

improve random file generation performance

Makes the random file generator not generate more data
than the size of the file.  Previously it would generate
1 MB of data even if the file was much smaller.

readwrite analysis tool

Adds a tool to analyze the output from the readwrite and roundtrip tools.
The output format is similar to the output from siege.

test_bucket_create_bad_contentlength_empty should use its own connection

since it can leave the connection in a wierd state

add bucket header tests

Mark tests that fail with subdomain calling format

Add @attr('fails_with_subdomain') on all tests that should fail when
subdomain calling format is used, because they break DNS rules.

add calling_format switch in functional and common

Add calling_format switch with options ordinary, subdomain, and vhost to
s3tests/functional/__init__.py and /s3tests/common.py to allow the use
of OrdinaryCallingFormat, SubdomainCallingFormat, and VHostCallingFormat
in the config files for the nosetests and the tools using the common
parser.

add fails_on_dho on a failing test

It turns out that the e-mail comments were legitimate. The reason the
tests were passing was because the specific users now had e-mail
addresses, but this not the default case.

Update docstring for generate_objects

Let nose run s3tests in parallel.

This decreases the run time significantly.

Unfortunately, there seem to be cleanup-related bugs
in parallel runs for now. It's not safe to actually
run with --processes=N >1 yet, but at least the right
magic incantation is now recorded.

Move fuzzer under s3tests/fuzz.

This way, its unit tests are separate from s3tests/functional,
and s3tests/functional is the thing that actually talks to an
S3 implementation over the wire.

To actually run the fuzzer, use ./virtualenv/bin/s3tests-fuzz-headers

Merge remote branch 'github/fuzz_headers'

remove fails_on_{dho,rgw} on passing tests

add s3tests.functional.test_s3.test_bucket_list_distinct

add fails_on_dho to test_object_create_bad_authorization_unreadable

add fail_on_rgw on test_object_create_bad_authorization_unreadable

Rename object acl test

add no Content-Length PUT object acl test

S3 Fuzzer: httplib error handling

Sometimes httplib will through a BadStatusLine error that the fuzzer should
catch and register as a failure.

S3-Fuzzer: add objects to decision graph

Add objects to the fuzzer's attack surface description

S3 Fuzzer: changed output and failure catching.

S3 Fuzzer: Output and garbage data tweaks.

- Output tweaks
- added support for printable_no_whitespace and binary_no_whitespace

S3 Fuzzer: remove num-retries override

Overriding num-retries to 0 sometimes causes boto to fail when the server
doesn't respond fast enough.  Removing the override shouldn't cause any
problems with the fuzzer.

S3 Fuzzer: PRNG Seed and decisiong graph fixes

- Change random seed generator to always spit out ints between 0 and 100,000
- Fix seeds so randomly generated seeds are *actually* the same as those seeds
read from a file.
- Tweaks to decision graph

Remaining Bugs:
- Single } encountered in format string
- _mexe complains about "BadStatusLine"

S3 Fuzzer: Start Fuzzing

- tweak yaml decision graph
- add test setup bucket creation, etc.
- add output with varying levels of verbosity

S3 Fuzzer: finish describing bucket operations

Finishing touches on decision graph for bucket operations.

S3 Fuzzer: Change how random data works

Remove SpecialVariables dict subclass in favor of RepeatExpandingFormatter
string.Formatter subclass.

S3 Fuzzer: start writing nodes for bucket PUTs

Continue working on decision graph; add PUT requests for buckets.

S3 Fuzzer: Incorporate Tv's suggestions

Tv looked over the fuzzer and had some idiomatic and design suggestions.

Adds several tests and reworks how expansion happens in addition to idiom
changes.

S3 Fuzzer: Write Decision Graph

Start writing the decision graph describing the fuzzer's attack surface in
earnest.

S3 Fuzzer: Handle null choices

Sometimes you might want to have your current node terminate the descent or
set something to the empty string.

S3 Fuzzer: Implmented headers and made random safe

Random can sometimes include } or { which will confuse the string formatter.
Formatter escapes those values when they're doubled: }}, {{ but this
required some slight hacking to the expander.

S3 Fuzzer: set values can be weighted lists now

S3 Fuzzer: Added binary mode to random data generator

S3 Fuzzer: support weights for choices

S3 Fuzzer: implemented decision expansion

Decision reached by descending the graph describing the attack surface can
be expanded to fill in all the placeholders

S3 Fuzzer: Added SpecialVariables dict subclass

Helper class to catch sentinal keys and turn them into random values.  This
will be used to generate garbage data when expanding a decision.

Also add unit tests for expand_decision and assemble_decision

S3 Fuzzer: began writing graph descent

still missing headers and choice weights

S3 Fuzzer: Change direction towards decision tree

Fuzzer now builds requests based on a DAG that describes the request space
and attack surface.

S3 Fuzzer: add authorization to FuzzyRequest

S3 Fuzzer: Begin writing unit tests for S3 Fuzzer

S3 Fuzzer: Add skeleton for a targeted S3 Fuzzer

Add atomic read tests

update attr decorators for dho

* passes test_object_raw_put_authenticated
* fails test_atomic_write_bucket_gone

don't delete key in atomic gone test

The key hasn't been written to the server so it doesn't need a delete

add raw PUT tests

refactor raw GET tests

urllib2 is no longer necessary. We will use urlparse instead to get the
path and query components of the uri.

add test for missing Content-Length header bucket creation

add an atomic put test for removing bucket

Add raw GET tests

Add dependency on isodate.

Commit ea3f73ef904d899ed28449bdc5d2bd5d7ff489f8 made
s3tests use isodate, but did not depend on it.

add bucket list data vs object data comparison tests

* test_bucket_list_return_data
* test_bucket_list_object_time

remove superfluous code in test_bucket_list_maxkeys_zero

remove fails_on_dho on passing tests

* test_object_set_get_metadata_empty_to_unreadable_prefix
* test_object_set_get_metadata_empty_to_unreadable_suffix
* test_object_set_get_metadata_empty_to_unreadable_infix
* test_object_set_get_metadata_overwrite_to_unreadable_prefix
* test_object_set_get_metadata_overwrite_to_unreadable_suffix
* test_object_set_get_metadata_overwrite_to_unreadable_infix

Switch test_bucket_list_maxkeys_unreadble to use '\n' instead of '\a'.

This avoids the SAX parser error. It also gave a different error code
from Amazon.

Switch tests using '\a' to '\n'

As noted in ce3d448d64aeb3228305863b4b2d35dd8f2aaec6, This will avoid
SAX parser errors.

remove contentlength zero header test

This test effectively tells the server that this request will contain no
data and any data in the body should be interpreted to be part of the
next request. By luck, we close the tcp connection beforehand so we
don't see this additional data. However, the issues caused here would
not be at the rgw/dho level.

Flag test_object_create_bad_contenttype_unreadable as failing on both RGW and DHO.

DHO does not support bucket logging currently.

Switch test_object_create_unreadable to use '\n' instead of '\a'.

This avoids a SAX/boto interaction bug that is not of much interest,
yet still seems "evil" enough that it fulfills the original intent
of the test.

Add a link to the relevant bug report.

Flag test_bucket_list_maxkeys_unreadable as failing on dho & rgw.