mirror of
https://github.com/openstf/stf
synced 2025-10-05 02:29:26 +02:00
use amazon s3 instead of storage-temp
This commit is contained in:
hogehoge-banana
parent
afa8e7b25e
commit
9299487670
3 changed files with 279 additions and 6 deletions
55
lib/cli.js
55
lib/cli.js
|
|
@ -731,6 +731,33 @@ program
|
|||
})
|
||||
})
|
||||
|
||||
program
|
||||
.command('storage-s3')
|
||||
.description('start s3 storage')
|
||||
.option('-p, --port <port>'
|
||||
, 'port (or $PORT)'
|
||||
, Number
|
||||
, process.env.PORT || 7100)
|
||||
.option('--bucket <bucketname>'
|
||||
, 'your s3 bucket name'
|
||||
, String)
|
||||
.option('--profile <name>'
|
||||
, 'your aws credentions profile name'
|
||||
, String
|
||||
, 'stf-storage')
|
||||
.option('--endpoint <endpoint>'
|
||||
, 'your buckets endpoint'
|
||||
, String
|
||||
, 's3-ap-northeast-1.amazonaws.com')
|
||||
.action(function(options) {
|
||||
require('./units/storage/amazons3')({
|
||||
port: options.port
|
||||
, profile: options.profile
|
||||
, Bucket: options.bucket
|
||||
, endpoint: options.endpoint
|
||||
})
|
||||
})
|
||||
|
||||
program
|
||||
.command('storage-plugin-image')
|
||||
.description('start storage image plugin')
|
||||
|
|
@ -942,6 +969,19 @@ program
|
|||
, String)
|
||||
.option('--mute-master'
|
||||
, 'whether to mute master volume when devices are being used')
|
||||
.option('--use-s3'
|
||||
, 'use amazon s3')
|
||||
.option('--s3-bucket <bucketname>'
|
||||
, 'your bucket name'
|
||||
, String)
|
||||
.option('--s3-profile <s3profile>'
|
||||
, 'aws credential Profile name'
|
||||
, String
|
||||
, 'stf-storage')
|
||||
.option('--s3-endpoint <s3endpoint>'
|
||||
, 's3 endpoint'
|
||||
, String
|
||||
, 's3-ap-northeast-1.amazonaws.com')
|
||||
.action(function() {
|
||||
var log = logger.createLogger('cli:local')
|
||||
, args = arguments
|
||||
|
|
@ -1058,11 +1098,22 @@ program
|
|||
])
|
||||
|
||||
// storage
|
||||
, procutil.fork(__filename, [
|
||||
, (function() {
|
||||
if (!options.useS3) {
|
||||
return procutil.fork(__filename, [
|
||||
'storage-temp'
|
||||
, '--port', options.storagePort
|
||||
]);
|
||||
} else {
|
||||
return procutil.fork(__filename, [
|
||||
'storage-s3'
|
||||
, '--port', options.storagePort
|
||||
, '--bucket', options.s3Bucket
|
||||
, '--profile', options.s3Profile
|
||||
, '--endpoint', options.s3Endpoint
|
||||
])
|
||||
|
||||
}
|
||||
})()
|
||||
// image processor
|
||||
, procutil.fork(__filename, [
|
||||
'storage-plugin-image'
|
||||
|
|
|
|||
221
lib/units/storage/amazons3.js
Normal file
221
lib/units/storage/amazons3.js
Normal file
|
|
@ -0,0 +1,221 @@
|
|||
var http = require('http')
|
||||
var util = require('util')
|
||||
var path = require('path')
|
||||
|
||||
var express = require('express')
|
||||
var validator = require('express-validator')
|
||||
var bodyParser = require('body-parser')
|
||||
var formidable = require('formidable')
|
||||
var Promise = require('bluebird')
|
||||
var uuid = require('node-uuid')
|
||||
var fs = require('fs')
|
||||
|
||||
var logger = require('../../util/logger')
|
||||
var Storage = require('../../util/storage')
|
||||
var requtil = require('../../util/requtil')
|
||||
var download = require('../../util/download')
|
||||
|
||||
var AWS = require('aws-sdk')
|
||||
var fs = require('fs');
|
||||
|
||||
module.exports = function(options) {
|
||||
var log = logger.createLogger('storage:s3')
|
||||
, app = express()
|
||||
, server = http.createServer(app)
|
||||
, credentials = new AWS.SharedIniFileCredentials({
|
||||
profile: options.profile})
|
||||
, bucket = options.Bucket
|
||||
, s3
|
||||
|
||||
log.debug(options)
|
||||
|
||||
AWS.config.credentials = credentials;
|
||||
s3 = new AWS.S3(options)
|
||||
|
||||
app.set('strict routing', true)
|
||||
app.set('case sensitive routing', true)
|
||||
app.set('trust proxy', true)
|
||||
|
||||
app.use(bodyParser.json())
|
||||
app.use(validator())
|
||||
|
||||
function makePutParams(id, path, name) {
|
||||
var key = id + name
|
||||
? util.format('/%s', name)
|
||||
: ''
|
||||
, rs = fs.createReadStream(path)
|
||||
return {
|
||||
Bucket: bucket
|
||||
, Key: key
|
||||
, Body: rs
|
||||
}
|
||||
}
|
||||
|
||||
app.post('/s/download/:plugin', function(req, res) {
|
||||
requtil.validate(req, function() {
|
||||
req.checkBody('url').notEmpty()
|
||||
})
|
||||
.then(function() {
|
||||
return download(req.body.url, {
|
||||
dir: options.cahedir
|
||||
})
|
||||
})
|
||||
.then(function(file){
|
||||
return new Promise(function(resolve, reject) {
|
||||
var id = uuid.v4()
|
||||
, params = makePutParams(id, file.path)
|
||||
s3.putObject(params, function(err, data) {
|
||||
if (err) {
|
||||
log.err('failed to store "%s"', params.Key);
|
||||
reject(err)
|
||||
} else {
|
||||
resolve({
|
||||
id: id
|
||||
, name: file.name
|
||||
})
|
||||
}
|
||||
})
|
||||
})
|
||||
})
|
||||
.then(function(file){
|
||||
res.status(201)
|
||||
.json({
|
||||
success: true
|
||||
, resource: {
|
||||
date: new Date()
|
||||
, plugin: plugin
|
||||
, id: file.id
|
||||
, name: file.name
|
||||
, href: util.format(
|
||||
'/s/%s/%s%s'
|
||||
, plugin
|
||||
, file.id
|
||||
, file.name
|
||||
? util.format('/%s', path.basename(file.name))
|
||||
: ''
|
||||
)
|
||||
}
|
||||
})
|
||||
|
||||
})
|
||||
.catch(requtil.ValidationError, function(err) {
|
||||
res.status(400)
|
||||
.json({
|
||||
success: false
|
||||
, error: 'ValidationError'
|
||||
, validationErrors: err.errors
|
||||
})
|
||||
})
|
||||
.catch(function(err) {
|
||||
log.error('Error storing resource', err.stack)
|
||||
res.status(500)
|
||||
.json({
|
||||
success: false
|
||||
, error: 'ServerError'
|
||||
})
|
||||
})
|
||||
})
|
||||
|
||||
app.post('/s/upload/:plugin', function(req, res) {
|
||||
var form = new formidable.IncomingForm()
|
||||
var plugin = req.params.plugin
|
||||
Promise.promisify(form.parse, form)(req)
|
||||
.spread(function(fields, files) {
|
||||
var requests = Object.keys(files).map(function(field) {
|
||||
var file = files[field]
|
||||
log.info('Uploaded "%s" to "%s"', file.name, file.path)
|
||||
|
||||
return new Promise(function(resolve, reject) {
|
||||
var id = uuid.v4()
|
||||
, key = id + '/' + file.name
|
||||
, rs = fs.createReadStream(file.path)
|
||||
, params = {
|
||||
Key: key
|
||||
, Body: rs
|
||||
, Bucket: bucket
|
||||
, Metadata: {
|
||||
field: field
|
||||
, plugin: plugin
|
||||
}
|
||||
};
|
||||
s3.putObject(params, function(err, data) {
|
||||
if (err) {
|
||||
log.error('failed to store "%s" bucket:"%s"',
|
||||
key, bucket)
|
||||
log.error(err);
|
||||
reject(err);
|
||||
} else {
|
||||
log.info('Stored "%s" to %s/%s/%s', file.name,
|
||||
bucket, id, file.name)
|
||||
resolve({
|
||||
field: field
|
||||
, id: id
|
||||
, name: file.name
|
||||
});
|
||||
}
|
||||
});
|
||||
});
|
||||
});
|
||||
return Promise.all(requests)
|
||||
})
|
||||
.then(function(storedFiles) {
|
||||
res.status(201)
|
||||
.json({
|
||||
success: true
|
||||
, resources: (function() {
|
||||
var mapped = Object.create(null)
|
||||
storedFiles.forEach(function(file) {
|
||||
var plugin = req.params.plugin
|
||||
mapped[file.field] = {
|
||||
date: new Date()
|
||||
, plugin: plugin
|
||||
, id: file.id
|
||||
, name: file.name
|
||||
, href: util.format(
|
||||
'/s/%s/%s%s'
|
||||
, plugin
|
||||
, file.id
|
||||
, file.name
|
||||
? util.format('/%s', path.basename(file.name))
|
||||
: ''
|
||||
)
|
||||
}
|
||||
})
|
||||
return mapped;
|
||||
})()
|
||||
})
|
||||
})
|
||||
.catch(function(err) {
|
||||
log.error('Error storing resource', err.stack)
|
||||
res.status(500)
|
||||
.json({
|
||||
success: false
|
||||
, error: 'ServerError'
|
||||
})
|
||||
})
|
||||
});
|
||||
|
||||
app.get('/s/blob/:id/:name', function(req, res) {
|
||||
var path = util.format('%s/%s', req.params.id, req.params.name)
|
||||
var params = {
|
||||
Key: path
|
||||
, Bucket: bucket
|
||||
};
|
||||
s3.getObject(params, function(err, data) {
|
||||
if (err) {
|
||||
log.error('failed to retreive[' + path + ']')
|
||||
log.error(err, err.stack);
|
||||
res.sendStatus(404)
|
||||
} else {
|
||||
res.set({
|
||||
'Content-type': data.ContentType
|
||||
});
|
||||
res.send(data.Body);
|
||||
}
|
||||
});
|
||||
});
|
||||
|
||||
server.listen(options.port)
|
||||
console.log('Listening on port %d', options.port)
|
||||
}
|
||||
|
||||
|
|
@ -81,6 +81,7 @@
|
|||
},
|
||||
"devDependencies": {
|
||||
"async": "^1.4.0",
|
||||
"aws-sdk": "^2.1.46",
|
||||
"bower": "^1.3.12",
|
||||
"chai": "^3.2.0",
|
||||
"css-loader": "^0.14.0",
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue