如何在 S3 上存储大型 Python 依赖项（适用于无服务器的 AWS Lambda）

Question

我正在使用 AWS Lambda 来托管 Python 项目，使用无服务器框架管理部署，并且遇到了常见的 50MB 包存储限制。到目前为止，我已经使用 serverless-python-individually 和 serverless-python-requirements 插件成功地将我的需求拆分为每个函数，以将每个文件作为单独的 Lambda 函数进行 dockerise、压缩和上传，如关键部分所示我的 serverless.yml 文件，如下所示。这使前三个函数包保持在 50MB 以下，并创建了一个简单的工作流程，我可以在其中简单地使用：sls deploy --pi-dockerizedPip. 然而，第四个包，只需要SciPy，不能减少到 52MB 以下，经过大量阅读后，我看到的唯一常见方法是将我的依赖项（即？）上传到 S3（某处）并以某种方式确保我的导入语句能够找到依赖项。我还没有找到关于应该如何完成打包依赖项的确切过程的明确说明，以及（几乎同样重要），如何与 Serverless 一起工作（这样我才能保持良好的工作流程）？serverless.yml 的关键部分：package:  individually: True  exclude:    # Exclude everything first.    - '**/*'functions:  brain:    handler: src/1-brain/wrap.handler    package:      include:        - src/1-brain/**    events:      - schedule: rate(5 minutes)  data:    handler: src/2-data/wrap.handler    package:      include:        - src/2-data/**  strategy:      handler: src/3-strategy/wrap.handler      package:        include:          - src/3-strategy/**  balancer:      handler: src/4-portfolio-balancer/wrap.handler      package:        include:          - src/4-portfolio-balancer/**  custom:  pythonRequirements:    useDownloadCache: true    useStaticCache: true    dockerizePip: true    zip: true    slim: true  pyIndividually:    wrap:brain: src/1-brain/aws_handler.handler     # mapping to the real handler    wrap:data: src/2-data/datafeed.handler          # mapping to the real handler    wrap:strategy: src/3-strategy/strategy.handler  # mapping to the real handler    wrap:balancer: src/4-portfolio-balancer/balancer.handler  # mapping to the real handler

Answer 1

AWS Lambda 层使您能够将您的包/环境捆绑到一个层中。您最多可以使用 5 个层，并且对于任何特定 lambda 函数，所有各个层的累积总和 + lambda 代码的未压缩限制为 250 MB。

查看“在层中包含库依赖项”部分 https://docs.aws.amazon.com/lambda/latest/dg/configuration-layers.html