diff --git a/cc-multilingual-main/cc_net/vcpkg/.gitattributes b/cc-multilingual-main/cc_net/vcpkg/.gitattributes new file mode 100644 index 0000000000000000000000000000000000000000..d0c3b3e9ccf66ddf0f30f2ac9a8a7f310c45b3d1 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/.gitattributes @@ -0,0 +1,5 @@ +* -text +ports/** -linguist-detectable + +# Declare files that will always have LF line endings on checkout. +scripts/ci.baseline.txt text eol=lf \ No newline at end of file diff --git a/cc-multilingual-main/cc_net/vcpkg/.github/ISSUE_TEMPLATE/config.yml b/cc-multilingual-main/cc_net/vcpkg/.github/ISSUE_TEMPLATE/config.yml new file mode 100644 index 0000000000000000000000000000000000000000..9ca38f803334bafa1acfd32b2511628eafe14abc --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/.github/ISSUE_TEMPLATE/config.yml @@ -0,0 +1,5 @@ +blank_issues_enabled: true +contact_links: + - name: I have a question + url: https://github.com/microsoft/vcpkg/discussions + about: Please ask and answer questions here. diff --git a/cc-multilingual-main/cc_net/vcpkg/.gitignore b/cc-multilingual-main/cc_net/vcpkg/.gitignore new file mode 100644 index 0000000000000000000000000000000000000000..d6d47929120f8f1d73457cfd5ee41d7e6c96bf0c --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/.gitignore @@ -0,0 +1,324 @@ +############################################################ +# Visual Studio - Start +############################################################ + +## Ignore Visual Studio temporary files, build results, and +## files generated by popular Visual Studio add-ons. + +# User-specific files +*.suo +*.user +*.userosscache +*.sln.docstates +/vcpkg.json +/vcpkg-configuration.json + +# fuzzing +sync_dir* + +# User-specific files (MonoDevelop/Xamarin Studio) +*.userprefs + +# Build results +[Dd]ebug/ +[Dd]ebugPublic/ +[Rr]elease/ +[Rr]eleases/ +x64/ +x86/ +bld/ +[Bb]in/ +[Oo]bj/ +[Ll]og/ +# Ignore the executable +/vcpkg +/vcpkg.exe + +# Visual Studio 2015 cache/options directory +.vs/ +# Uncomment if you have tasks that create the project's static files in wwwroot +#wwwroot/ + +# MSTest test Results +[Tt]est[Rr]esult*/ +[Bb]uild[Ll]og.* + +# NUNIT +*.VisualState.xml +TestResult.xml + +# Build Results of an ATL Project +[Dd]ebugPS/ +[Rr]eleasePS/ +dlldata.c + +# DNX +project.lock.json +project.fragment.lock.json +artifacts/ + +*_i.c +*_p.c +*_i.h +*.ilk +*.meta +*.obj +*.pch +*.pdb +*.pgc +*.pgd +*.rsp +*.sbr +*.tlb +*.tli +*.tlh +*.tmp +*.tmp_proj +*.log +*.vspscc +*.vssscc +.builds +*.pidb +*.svclog +*.scc + +# Chutzpah Test files +_Chutzpah* + +# Visual C++ cache files +ipch/ +*.aps +*.ncb +*.opendb +*.opensdf +*.sdf +*.cachefile +*.VC.db +*.VC.VC.opendb + +# Visual Studio profiler +*.psess +*.vsp +*.vspx +*.sap + +# TFS 2012 Local Workspace +$tf/ + +# Guidance Automation Toolkit +*.gpState + +# ReSharper is a .NET coding add-in +_ReSharper*/ +*.[Rr]e[Ss]harper +*.DotSettings.user + +# JustCode is a .NET coding add-in +.JustCode + +# TeamCity is a build add-in +_TeamCity* + +# DotCover is a Code Coverage Tool +*.dotCover + +# NCrunch +_NCrunch_* +.*crunch*.local.xml +nCrunchTemp_* + +# MightyMoose +*.mm.* +AutoTest.Net/ + +# Web workbench (sass) +.sass-cache/ + +# Installshield output folder +[Ee]xpress/ + +# DocProject is a documentation generator add-in +DocProject/buildhelp/ +DocProject/Help/*.HxT +DocProject/Help/*.HxC +DocProject/Help/*.hhc +DocProject/Help/*.hhk +DocProject/Help/*.hhp +DocProject/Help/Html2 +DocProject/Help/html + +# Click-Once directory +publish/ + +# Publish Web Output +*.[Pp]ublish.xml +*.azurePubxml +# TODO: Comment the next line if you want to checkin your web deploy settings +# but database connection strings (with potential passwords) will be unencrypted +*.pubxml +*.publishproj + +# Microsoft Azure Web App publish settings. Comment the next line if you want to +# checkin your Azure Web App publish settings, but sensitive information contained +# in these scripts will be unencrypted +PublishScripts/ + +# NuGet Packages +*.nupkg +# The packages folder can be ignored because of Package Restore +**/packages/* +# except build/, which is used as an MSBuild target. +!**/packages/build/ +# Uncomment if necessary however generally it will be regenerated when needed +#!**/packages/repositories.config +# NuGet v3's project.json files produces more ignoreable files +*.nuget.props +*.nuget.targets + +# Microsoft Azure Build Output +csx/ +*.build.csdef + +# Microsoft Azure Emulator +ecf/ +rcf/ + +# Windows Store app package directories and files +AppPackages/ +BundleArtifacts/ +Package.StoreAssociation.xml +_pkginfo.txt + +# Visual Studio cache files +# files ending in .cache can be ignored +*.[Cc]ache +# but keep track of directories ending in .cache +!*.[Cc]ache/ + +# Others +ClientBin/ +~$* +*~ +*.dbmdl +*.dbproj.schemaview +*.pfx +*.publishsettings +node_modules/ +orleans.codegen.cs + +# Since there are multiple workflows, uncomment next line to ignore bower_components +# (https://github.com/github/gitignore/pull/1529#issuecomment-104372622) +#bower_components/ + +# RIA/Silverlight projects +Generated_Code/ + +# Backup & report files from converting an old project file +# to a newer Visual Studio version. Backup files are not needed, +# because we have git ;-) +_UpgradeReport_Files/ +Backup*/ +UpgradeLog*.XML +UpgradeLog*.htm + +# SQL Server files +*.mdf +*.ldf + +# Business Intelligence projects +*.rdl.data +*.bim.layout +*.bim_*.settings + +# Microsoft Fakes +FakesAssemblies/ + +# GhostDoc plugin setting file +*.GhostDoc.xml + +# Node.js Tools for Visual Studio +.ntvs_analysis.dat + +# Visual Studio 6 build log +*.plg + +# Visual Studio 6 workspace options file +*.opt + +# Visual Studio LightSwitch build output +**/*.HTMLClient/GeneratedArtifacts +**/*.DesktopClient/GeneratedArtifacts +**/*.DesktopClient/ModelManifest.xml +**/*.Server/GeneratedArtifacts +**/*.Server/ModelManifest.xml +_Pvt_Extensions + +# Paket dependency manager +.paket/paket.exe +paket-files/ + +# FAKE - F# Make +.fake/ + +# JetBrains Rider +.idea/ +*.sln.iml + +# CodeRush +.cr/ + +# Python Tools for Visual Studio (PTVS) +__pycache__/ +*.pyc + +############################################################ +# Visual Studio - End +############################################################ + + +############################################################ +# vcpkg - Start +############################################################ + +.vscode/ +*.code-workspace +/buildtrees/ +/build*/ +/downloads/ +/installed*/ +/vcpkg_installed*/ +/packages/ +/scripts/buildsystems/tmp/ +#ignore custom triplets +/triplets/* +#add vcpkg-designed triplets back in +!/triplets/arm-uwp.cmake +!/triplets/arm64-windows.cmake +!/triplets/x64-linux.cmake +!/triplets/x64-osx.cmake +!/triplets/x64-uwp.cmake +!/triplets/x64-windows-static.cmake +!/triplets/x64-windows.cmake +!/triplets/x86-windows.cmake + +!/triplets/community +!/triplets/community/** + +*.exe +*.zip + +############################################################ +# vcpkg - End +############################################################ +vcpkg.disable-metrics +archives +.DS_Store +prefab/ +*.swp + +################### +# Codespaces +################### +pythonenv3.8/ +.venv/ + diff --git a/cc-multilingual-main/cc_net/vcpkg/.vcpkg-root b/cc-multilingual-main/cc_net/vcpkg/.vcpkg-root new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING.md b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING.md new file mode 100644 index 0000000000000000000000000000000000000000..6e019d977590f5c602b24ddc1b6146e4d7d69a62 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING.md @@ -0,0 +1,33 @@ +# Contribution Guidelines + +Vcpkg is a community driven effort to build a productive and robust ecosystem of native libraries - your contributions are invaluable! + +## Issues + +The easiest way to contribute is by reporting issues with either `vcpkg.exe` or an existing package on [GitHub](https://github.com/Microsoft/vcpkg). When reporting an issue with `vcpkg.exe`, make sure to clearly state: +- The machine setup: "I'm using Windows 10 Anniversary Update. My machine is using the fr-fr locale. I successfully ran 'install boost'." +- The steps to reproduce: "I run 'vcpkg list'" +- The outcome you expected: "I expected to see 'boost:x86-windows'" +- The actual outcome: "I get no output at all" or "I get a crash dialog" + +When reporting an issue with a package, make sure to clearly state: +- The machine setup (as above) +- What package and version you're building: "opencv 3.1.0" +- Any relevant error logs from the build process. + +## Pull Requests + +We are happy to accept pull requests for fixes, features, new packages, and updates to existing packages. In order to avoid wasting your time, we highly encourage opening an issue to discuss whether the PR you're thinking about making will be acceptable. This is doubly true for features and new packages. + +### New package Guidelines + +We're glad you're interested in submitting a new package! Here are some guidelines to help you author an excellent portfile: +- Avoid functional patches. Patches should be considered a last resort to implement compatibility when there's no other way. +- When patches can't be avoided, do not modify the default behavior. The ideal lifecycle of a patch is to get merged upstream and no longer be needed. Try to keep this goal in mind when deciding how to patch something. +- Prefer to use the `vcpkg_xyz` functions over raw `execute_command` calls. This makes long term maintenance easier when new features (such as custom compiler flags or generators) are added. + +## Legal + +You will need to complete a Contributor License Agreement (CLA) before your pull request can be accepted. This agreement testifies that you are granting us permission to use the source code you are submitting, and that this work is being submitted under appropriate license that we can use it. + +You can complete the CLA by going through the steps at https://cla.microsoft.com. Once we have received the signed CLA, we'll review the request. You will only need to do this once. diff --git a/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_pt.md b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_pt.md new file mode 100644 index 0000000000000000000000000000000000000000..63c4c885fbb4c313b09cbedc5b2afe97e0584ff9 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_pt.md @@ -0,0 +1,36 @@ +# Diretrizes de Contribuição + +Vcpkg é um esforço da comunidade para construir um ecossistema produtivo e robusto de bibliotecas nativas - suas contribuições são inestimáveis! + +## Problemas (issues) + +A maneira mais fácil de contribuir é relatando problemas com `vcpkg.exe` ou um pacote existente no [GitHub](https://github.com/Microsoft/vcpkg). Ao relatar um problema com `vcpkg.exe`, certifique-se de indicar claramente: + +- A configuração da máquina: "Estou usando a Atualização de Aniversário do Windows 10. Minha máquina está usando a localidade fr-fr. Executei com sucesso o 'instal boost'." +- As etapas para reproduzir: "I run 'vcpkg list'" +- O resultado esperado: "Eu esperava ver 'boost:x86-windows'" +- O resultado real: "Não recebo nenhuma saída" ou "Recebo uma caixa de diálogo de travamento" + +Ao relatar um problema com um pacote, certifique-se de indicar claramente: + +- A configuração da máquina (como acima) +- Qual pacote e versão você está construindo: "opencv 3.1.0" +- Quaisquer logs de erro relevantes do processo de compilação. + +## Pull Requests + +Estamos felizes em aceitar solicitações de correções, recursos, novos pacotes e atualizações para pacotes existentes. Para evitar desperdício de tempo, recomendamos abrir um tópico para discutir se o PR que você está pensando em fazer será aceitável. Isso é duplamente verdadeiro para recursos e novos pacotes. + +### Diretrizes de novos pacotes + +Estamos felizes por você estar interessado em enviar um novo pacote! Aqui estão algumas diretrizes para ajudá-lo a criar um excelente portfile: + +- Evite patches funcionais. Os patches devem ser considerados um último recurso para implementar a compatibilidade quando não houver outra maneira. +- Quando os patches não puderem ser evitados, não modifique o comportamento padrão. O ciclo de vida ideal de um patch é ser mesclado no upstream e não ser mais necessário. Tente manter esse objetivo em mente ao decidir como corrigir algo. +- Prefira usar as funções `vcpkg_xyz` em vez de chamadas brutas `execute_command`. Isso facilita a manutenção de longo prazo quando novos recursos (como sinalizadores de compilador personalizados ou geradores) são adicionados. + +## Jurídico + +Você precisará preencher um Contrato de Licença de Colaborador (CLA) antes que sua solicitação pull possa ser aceita. Este contrato atesta que você está nos concedendo permissão para usar o código-fonte que está enviando e que este trabalho está sendo enviado sob a licença apropriada para que possamos usá-lo. + +Você pode concluir o CLA seguindo as etapas em . Assim que recebermos o CLA assinado, analisaremos a solicitação. Você só precisará fazer isso uma vez. diff --git a/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_zh.md b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_zh.md new file mode 100644 index 0000000000000000000000000000000000000000..7aef2f5dcb9fd82bad9becc44a5800494be85945 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/CONTRIBUTING_zh.md @@ -0,0 +1,33 @@ +# 贡献准则 + +Vcpkg 是一个尝试由社区驱动,旨在构建一个多产的、健壮的本地库生态系统 - 您的贡献价值不可估量! + +## 报告问题 + +最简单的方法是通过 `vcpkg.exe` 或 [GitHub](https://github.com/Microsoft/vcpkg) 报告已有的包的问题。 当报告 `vcpkg.exe` 的问题时,确保清楚地说明: +- 机器设置: “我用的是Windows 10周年更新。 我的机器正位于fr-fr区域。 我成功地运行了'install boost'。” +- 复现步骤: “运行 'vcpkg list'” +- 预期结果: “我预期看到 'boost:x86-windows'” +- 实际结果: “没有输出” 或 “我得到一个崩溃对话框” + +当报告包的问题时,一定要清楚地说明: +- 机器设置 (上述) +- 您正在构建什么包以及它的版本,例如: “opencv 3.1.0” +- 构建过程中的任何相关错误日志 + +## 贡献 (PR) + +我们很乐意接受关于修复、特性、新包和更新现有包的拉取请求。 为了避免浪费您的时间,我们强烈建议您提交一个问题来讨论您想要制作的PR是否能被接受。 对于特性和新包来说也是如此。 + +### 新包贡献准则 + +我们很高兴您有兴趣来提交一个新的包! 这里有一些指导方针来帮助您编写一个优秀的端口文件: +- 避免功能补丁。 当没有其他方法时,补丁应该被视为实现兼容性的最后手段。 +- 当无法避免补丁时,请不要修改默认行为。 一个补丁的理想生命周期是与上游合并,不再被需要。 在决定如何修补某些内容时,请记住这一目标。 +- 相比原始的 `execute_command` 调用,尽量改为通过 `vcpkg_xyz` 函数实现。这使得在添加新特性(如自定义编译器标志或生成器)时更容易进行长期维护。 + +## 法律声明 + +在您的拉取请求被接受之前,您需要完成一个贡献者许可协议 (CLA)。 本协议证明您允许我们使用您提交的源代码,并且本作品是在合适的许可下提交的,我们可以使用它。 + +您可以通过 https://cla.microsoft.com 上的步骤来完成CLA。 一旦我们收到已签署的CLA,我们将审查请求。 您只需要这样做一次。 diff --git a/cc-multilingual-main/cc_net/vcpkg/LICENSE.txt b/cc-multilingual-main/cc_net/vcpkg/LICENSE.txt new file mode 100644 index 0000000000000000000000000000000000000000..4d23e0e39b2531c41499e7b1c5ec0efffd15c6b6 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/LICENSE.txt @@ -0,0 +1,20 @@ +MIT License + +Copyright (c) Microsoft Corporation + +Permission is hereby granted, free of charge, to any person obtaining a copy of this +software and associated documentation files (the "Software"), to deal in the Software +without restriction, including without limitation the rights to use, copy, modify, +merge, publish, distribute, sublicense, and/or sell copies of the Software, and to +permit persons to whom the Software is furnished to do so, subject to the following +conditions: + +The above copyright notice and this permission notice shall be included in all copies +or substantial portions of the Software. + +THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED, +INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS FOR A +PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT +HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF +CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE +OR THE USE OR OTHER DEALINGS IN THE SOFTWARE. diff --git a/cc-multilingual-main/cc_net/vcpkg/NOTICE.txt b/cc-multilingual-main/cc_net/vcpkg/NOTICE.txt new file mode 100644 index 0000000000000000000000000000000000000000..0e2e9604835faba06f6e8bbf27b723f58ce35c95 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/NOTICE.txt @@ -0,0 +1,46 @@ +vcpkg uses third party material from the projects listed below. +The original copyright notice and the license under which Microsoft +received such third party material are set forth below. Microsoft +reserves all other rights not expressly granted, whether by +implication, estoppel or otherwise. + +In the event that we accidentally failed to list a required notice, please +bring it to our attention by posting an issue. + +THIRD-PARTY SOFTWARE NOTICES AND INFORMATION +Do Not Translate or Localize + +vcpkg incorporates third party material from the projects listed below. +The original copyright notice and the license under which Microsoft received +such third party materials are set forth below. Microsoft reserved all other +rights not expressly granted, whether by implication, estoppel or otherwise. + +1. Catch2 + +%% Catch2 NOTICES, INFORMATION, AND LICENSE BEGIN HERE +========================================= +Boost Software License - Version 1.0 - August 17th, 2003 + +Permission is hereby granted, free of charge, to any person or organization +obtaining a copy of the software and accompanying documentation covered by +this license (the "Software") to use, reproduce, display, distribute, +execute, and transmit the Software, and to prepare derivative works of the +Software, and to permit third-parties to whom the Software is furnished to +do so, all subject to the following: + +The copyright notices in the Software and this entire statement, including +the above license grant, this restriction and the following disclaimer, +must be included in all copies of the Software, in whole or in part, and +all derivative works of the Software, unless such copies or derivative +works are solely in the form of machine-executable object code generated by +a source language processor. + +THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR +IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, +FITNESS FOR A PARTICULAR PURPOSE, TITLE AND NON-INFRINGEMENT. IN NO EVENT +SHALL THE COPYRIGHT HOLDERS OR ANYONE DISTRIBUTING THE SOFTWARE BE LIABLE +FOR ANY DAMAGES OR OTHER LIABILITY, WHETHER IN CONTRACT, TORT OR OTHERWISE, +ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER +DEALINGS IN THE SOFTWARE. +========================================= +END OF Catch2 NOTICES, INFORMATION, AND LICENSE diff --git a/cc-multilingual-main/cc_net/vcpkg/NOTICE_pt.txt b/cc-multilingual-main/cc_net/vcpkg/NOTICE_pt.txt new file mode 100644 index 0000000000000000000000000000000000000000..678ca692eff279bc1c06f6467349a5166222a49e --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/NOTICE_pt.txt @@ -0,0 +1,46 @@ +vcpkg usa material de terceiros dos projetos listados abaixo. +O aviso de direitos autorais original e a licença sob a qual a Microsoft +recebido tal material de terceiros são descritos abaixo. Microsoft +reserva-se todos os outros direitos não concedidos expressamente, seja por +implicação, preclusão ou de outra forma. + +No caso de falhamos acidentalmente em listar um aviso necessário, por favor +chame nossa atenção postando um problema. + +AVISOS E INFORMAÇÕES DE SOFTWARE DE TERCEIROS +Não traduza ou localize + +vcpkg incorpora material de terceiros dos projetos listados abaixo. +O aviso de direitos autorais original e a licença sob a qual a Microsoft recebeu +tais materiais de terceiros são apresentados abaixo. A Microsoft reservou todos os outros +direitos não concedidos expressamente, seja por implicação, preclusão ou de outra forma. + +1. Catch2 + +%% Catch2 AVISOS, INFORMAÇÕES E LICENÇA COMEÇAM AQUI +=========================================== +Boost Software License - Versão 1.0 - 17 de agosto de 2003 + +A permissão é concedida, gratuitamente, a qualquer pessoa ou organização +obter uma cópia do software e da documentação que o acompanha coberta por +esta licença (o "Software") para usar, reproduzir, exibir, distribuir, +executar e transmitir o Software e preparar trabalhos derivados do +Software, e para permitir que terceiros a quem o Software é fornecido +fazê-lo, tudo sujeito ao seguinte: + +Os avisos de direitos autorais no Software e toda esta declaração, incluindo +a concessão de licença acima, esta restrição e a seguinte isenção de responsabilidade, +devem ser incluídos em todas as cópias do Software, no todo ou em parte, e +todos os trabalhos derivados do Software, a menos que tais cópias ou derivados +as obras são exclusivamente na forma de código de objeto executável por máquina gerado por +um processador de linguagem de origem. + +O SOFTWARE É FORNECIDO "COMO ESTÁ", SEM GARANTIA DE QUALQUER TIPO, EXPRESSA OU +IMPLÍCITAS, INCLUINDO, SEM LIMITAÇÃO, AS GARANTIAS DE COMERCIALIZAÇÃO, +ADEQUAÇÃO A UM DETERMINADO FIM, TÍTULO E NÃO VIOLAÇÃO. EM NENHUM CASO +OS DETENTORES DOS DIREITOS AUTORAIS OU QUALQUER DISTRIBUIDOR DO SOFTWARE SERÃO RESPONSÁVEIS +POR QUAISQUER DANOS OU OUTRA RESPONSABILIDADE, SEJA EM CONTRATO, ILÍCITO OU DE OUTRA FORMA, +DECORRENTE DE OU EM CONEXÃO COM O SOFTWARE OU O USO OU OUTRO +NEGÓCIOS NO SOFTWARE. +=========================================== +FIM DOS AVISOS, INFORMAÇÕES E LICENÇA DE Catch2 \ No newline at end of file diff --git a/cc-multilingual-main/cc_net/vcpkg/README.md b/cc-multilingual-main/cc_net/vcpkg/README.md new file mode 100644 index 0000000000000000000000000000000000000000..004b9ad95c07db184b68480d08cbc971b94289d2 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README.md @@ -0,0 +1,329 @@ +# Vcpkg: Overview + +[中文总览](README_zh_CN.md) +[Español](README_es.md) +[한국어](README_ko_KR.md) +[Français](README_fr.md) +[Tiếng Việt](README_vn.md) + +Vcpkg helps you manage C and C++ libraries on Windows, Linux and MacOS. +This tool and ecosystem are constantly evolving, and we always appreciate contributions! + +If you've never used vcpkg before, or if you're trying to figure out how to use vcpkg, +check out our [Getting Started](#getting-started) section for how to start using vcpkg. + +For short description of available commands, once you've installed vcpkg, +you can run `vcpkg help`, or `vcpkg help [command]` for command-specific help. + +* GitHub: ports at [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg), program at [https://github.com/microsoft/vcpkg-tool](https://github.com/microsoft/vcpkg-tool) +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), the #vcpkg channel +* Discord: [\#include \](https://www.includecpp.org), the #🌏vcpkg channel +* Docs: [Documentation](https://learn.microsoft.com/vcpkg) + +# Table of Contents + +- [Vcpkg: Overview](#vcpkg-overview) +- [Table of Contents](#table-of-contents) +- [Getting Started](#getting-started) + - [Quick Start: Windows](#quick-start-windows) + - [Quick Start: Unix](#quick-start-unix) + - [Installing Linux Developer Tools](#installing-linux-developer-tools) + - [Installing macOS Developer Tools](#installing-macos-developer-tools) + - [Using vcpkg with CMake](#using-vcpkg-with-cmake) + - [Visual Studio Code with CMake Tools](#visual-studio-code-with-cmake-tools) + - [Vcpkg with Visual Studio CMake Projects](#vcpkg-with-visual-studio-cmake-projects) + - [Vcpkg with CLion](#vcpkg-with-clion) + - [Vcpkg as a Submodule](#vcpkg-as-a-submodule-with-cmake) +- [Tab-Completion/Auto-Completion](#tab-completionauto-completion) +- [Examples](#examples) +- [Contributing](#contributing) +- [License](#license) +- [Security](#security) +- [Telemetry](#telemetry) + +# Getting Started + +First, follow the quick start guide for either +[Windows](#quick-start-windows), or [macOS and Linux](#quick-start-unix), +depending on what you're using. + +For more information, see [Installing and Using Packages][getting-started:using-a-package]. +If a library you need is not present in the vcpkg catalog, +you can [open an issue on the GitHub repo][contributing:submit-issue] +where the vcpkg team and community can see it, +and potentially add the port to vcpkg. + +After you've gotten vcpkg installed and working, +you may wish to add [tab completion](#tab-completionauto-completion) to your shell. + +## Quick Start: Windows + +Prerequisites: +- Windows 7 or newer +- [Git][getting-started:git] +- [Visual Studio][getting-started:visual-studio] 2015 Update 3 or greater with the English language pack + +First, download and bootstrap vcpkg itself; it can be installed anywhere, but generally we recommend using vcpkg as a +submodule so the consuming repo can stay self-contained. Alternatively, vcpkg can be installed globally; we recommend +somewhere like `C:\src\vcpkg` or `C:\dev\vcpkg`, since otherwise you may run into path issues for some port build +systems. + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +To install the libraries for your project, run: + +```cmd +> .\vcpkg\vcpkg install [packages to install] +``` + +Note: This will install x86 libraries by default. To install x64, run: + +```cmd +> .\vcpkg\vcpkg install [package name]:x64-windows +``` + +Or + +```cmd +> .\vcpkg\vcpkg install [packages to install] --triplet=x64-windows +``` + +You can also search for the libraries you need with the `search` subcommand: + +```cmd +> .\vcpkg\vcpkg search [search term] +``` + +In order to use vcpkg with Visual Studio, +run the following command (may require administrator elevation): + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +After this, you can now create a New non-CMake Project (or open an existing one). +All installed libraries are immediately ready to be `#include`'d and used +in your project without additional configuration. + +If you're using CMake with Visual Studio, +continue [here](#vcpkg-with-visual-studio-cmake-projects). + +In order to use vcpkg with CMake outside of an IDE, +you can use the toolchain file: + +```cmd +> cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [build directory] +``` + +With CMake, you will still need to `find_package` and the like to use the libraries. +Check out the [CMake section](#using-vcpkg-with-cmake) for more information, +including on using CMake with an IDE. + +## Quick Start: Unix + +Prerequisites for Linux: +- [Git][getting-started:git] +- [g++][getting-started:linux-gcc] >= 6 + +Prerequisites for macOS: +- [Apple Developer Tools][getting-started:macos-dev-tools] + +First, download and bootstrap vcpkg itself; it can be installed anywhere, +but generally we recommend using vcpkg as a submodule. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +To install the libraries for your project, run: + +```sh +$ ./vcpkg/vcpkg install [packages to install] +``` + +You can also search for the libraries you need with the `search` subcommand: + +```sh +$ ./vcpkg/vcpkg search [search term] +``` + +In order to use vcpkg with CMake, you can use the toolchain file: + +```sh +$ cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [build directory] +``` + +With CMake, you will still need to `find_package` and the like to use the libraries. +Check out the [CMake section](#using-vcpkg-with-cmake) +for more information on how best to use vcpkg with CMake, +and CMake Tools for VSCode. + +## Installing Linux Developer Tools + +Across the different distros of Linux, there are different packages you'll +need to install: + +- Debian, Ubuntu, popOS, and other Debian-based distributions: + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +For any other distributions, make sure you're installing g++ 6 or above. +If you want to add instructions for your specific distro, +[please open a PR][contributing:submit-pr]! + +## Installing macOS Developer Tools + +On macOS, the only thing you should need to do is run the following in your terminal: + +```sh +$ xcode-select --install +``` + +Then follow along with the prompts in the windows that comes up. + +You'll then be able to bootstrap vcpkg along with the [quick start guide](#quick-start-unix) + +## Using vcpkg with CMake + +### Visual Studio Code with CMake Tools + +Adding the following to your workspace `settings.json` will make +CMake Tools automatically use vcpkg for libraries: + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +### Vcpkg with Visual Studio CMake Projects + +Open the CMake Settings Editor, and under `CMake toolchain file`, +add the path to the vcpkg toolchain file: + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### Vcpkg with CLion + +Vcpkg is integrated in the CLion IDE. +For details, see the [official documentation](https://www.jetbrains.com/help/clion/package-management.html). + +### Vcpkg as a Submodule with CMake + +When using vcpkg as a submodule of your project, +you can add the following to your CMakeLists.txt before the first `project()` call, +instead of passing `CMAKE_TOOLCHAIN_FILE` to the cmake invocation. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +This will still allow people to not use vcpkg, +by passing the `CMAKE_TOOLCHAIN_FILE` directly, +but it will make the configure-build step slightly easier. + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #installing-linux-developer-tools +[getting-started:macos-dev-tools]: #installing-macos-developer-tools +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ + +# Tab-Completion/Auto-Completion + +`vcpkg` supports auto-completion of commands, package names, +and options in both powershell and bash. +To enable tab-completion in the shell of your choice, run: + +```pwsh +> .\vcpkg integrate powershell +``` + +or + +```sh +$ ./vcpkg integrate bash # or zsh +``` + +depending on the shell you use, then restart your console. + +# Examples + +See the [documentation](https://learn.microsoft.com/vcpkg) for specific walkthroughs, +including [installing and using a package](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[adding a new package from a zipfile](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +and [adding a new package from a GitHub repo](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos). + +Our docs are now also available online at our website https://vcpkg.io/. We really appreciate any and all feedback! You can submit an issue in https://github.com/vcpkg/vcpkg.github.io/issues. + +See a 4 minute [video demo](https://www.youtube.com/watch?v=y41WFKbQFTw). + +# Contributing + +Vcpkg is an open source project, and is thus built with your contributions. +Here are some ways you can contribute: + +* [Submit Issues][contributing:submit-issue] in vcpkg or existing packages +* [Submit Fixes and New Packages][contributing:submit-pr] + +Please refer to our [Contributing Guide](CONTRIBUTING.md) for more details. + +This project has adopted the [Microsoft Open Source Code of Conduct][contributing:coc]. +For more information see the [Code of Conduct FAQ][contributing:coc-faq] +or email [opencode@microsoft.com](mailto:opencode@microsoft.com) +with any additional questions or comments. + +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# License + +The code in this repository is licensed under the [MIT License](LICENSE.txt). The libraries +provided by ports are licensed under the terms of their original authors. Where available, vcpkg +places the associated license(s) in the location `installed//share//copyright`. + +# Security + +Most ports in vcpkg build the libraries in question using the original build system preferred +by the original developers of those libraries, and download source code and build tools from their +official distribution locations. For use behind a firewall, the specific access needed will depend +on which ports are being installed. If you must install it in an "air gapped" environment, consider +installing once in a non-"air gapped" environment, populating an +[asset cache](https://learn.microsoft.com/vcpkg/users/assetcaching) shared with the otherwise "air gapped" environment. + +# Telemetry + +vcpkg collects usage data in order to help us improve your experience. +The data collected by Microsoft is anonymous. +You can opt-out of telemetry by +- running the bootstrap-vcpkg script with -disableMetrics +- passing --disable-metrics to vcpkg on the command line +- setting the VCPKG_DISABLE_METRICS environment variable + +Read more about vcpkg telemetry at [https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy). diff --git a/cc-multilingual-main/cc_net/vcpkg/README_es.md b/cc-multilingual-main/cc_net/vcpkg/README_es.md new file mode 100644 index 0000000000000000000000000000000000000000..ccd7dda11f914bf90f1347e0b9ef932252ffe3a5 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_es.md @@ -0,0 +1,402 @@ +# Vcpkg + +[中文总览](README_zh_CN.md) +[English](README.md) +[한국어](README_ko_KR.md) +[Français](README_fr.md) + +Vcpkg ayuda a manejar bibliotecas de C y C++ en Windows, Linux y MacOS. +Esta herramienta y ecosistema se encuentran en constante evolución ¡Siempre apreciamos contribuciones nuevas! + +Si nunca ha usado Vcpkg antes, +o si está intentando aprender a usar vcpkg, consulte nuestra sección +[Primeros pasos](#primeros-pasos) para iniciar a usar Vcpkg. + +Para una descripción corta de los comandos disponibles, +una vez instalado Vcpkg puede ejecutar `vcpkg help`, o +`vcpkg help [comando]` para obtener ayuda específica de un comando. + +* ports en: [vcpkg GitHub](https://github.com/microsoft/vcpkg) +* este programa en: [vcpkg-tool GitHub](https://github.com/microsoft/vcpkg-tool) +* [Slack](https://cppalliance.org/slack/), en el canal #vcpkg +* Discord: [\#include \](https://www.includecpp.org), en el canal #🌏vcpkg +* Docs: [Documentación](https://learn.microsoft.com/vcpkg) + +## Tabla de contenido + +- [Vcpkg](#vcpkg) + - [Tabla de contenido](#tabla-de-contenido) + - [Primeros pasos](#primeros-pasos) + - [Inicio Rápido: Windows](#inicio-rápido-windows) + - [Inicio rápido: Unix](#inicio-rápido-unix) + - [Instalando Herramientas de desarrollo en Linux](#instalando-herramientas-de-desarrollo-en-linux) + - [Instalando Herramientas de desarrollo en macOS](#instalando-herramientas-de-desarrollo-en-macos) + - [Usando Vcpkg con CMake](#usando-vcpkg-con-cmake) + - [Visual Studio Code con CMake Tools](#visual-studio-code-con-cmake-tools) + - [Vcpkg con proyectos de Visual Studio(CMake)](#vcpkg-con-proyectos-de-visual-studiocmake) + - [Vcpkg con CLion](#vcpkg-con-clion) + - [Vcpkg como Submódulo](#vcpkg-como-submódulo) + - [Inicio rápido: Manifiestos](#inicio-rápido-manifiestos) + - [Completado-Tab/Autocompletado](#completado-tabautocompletado) + - [Ejemplos](#ejemplos) + - [Contribuyendo](#contribuyendo) + - [Licencia](#licencia) +- [Seguridad](#seguridad) + - [Telemetría](#telemetría) + +## Primeros pasos + +Antes de iniciar, siga la guía ya sea para [Windows](#inicio-rápido-windows), +o [macOS y Linux](#inicio-rápido-unix) dependiendo del SO que use. + +Para más información, ver [Instalando y Usando Paquetes][getting-started:using-a-package]. +Si una biblioteca que necesita no está presente en el catálogo de vcpkg, +puede [abrir una incidencia en el repositorio de GitHub][contributing:submit-issue] +donde el equipo de vcpkg y la comunidad pueden verlo, y potencialmente hacer un port a vcpkg. + +Después de tener Vcpkg instalado y funcionando, +puede que desee añadir [completado con tab](#Completado-TabAutoCompletado) en su terminal. + +Finalmente, si está interesado en el futuro de Vcpkg, +puede ver la guía de [archivos de manifiesto][getting-started:manifest-spec]! +esta es una característica experimental y es probable que tenga errores, +así que se recomienda revisar y [crear incidencias][contributing:submit-issue]! + +### Inicio Rápido: Windows + +Prerrequisitos: + +- Windows 7 o superior +- [Git][getting-started:git] +- [Visual Studio][getting-started:visual-studio] 2015 Update 3 o superior con el paquete Inglés de Visual Studio. + +Primero, descargue y compile vcpkg; puede ser instalado en cualquier lugar, pero por lo general recomendamos usar vcpkg +como submódulo, asi el repositorio que lo consume puede permanecer autónomo. +Alternativamente vcpkg puede ser instalado globalmente; +recomendamos que sea en un lugar como `C:\src\vcpkg` o `C:\dev\vcpkg`, + +ya que de otra forma puede encontrarse problemas de ruta para algunos sistemas de port. + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +Para instalar las bibliotecas para su proyecto, ejecute: + +```cmd +> .\vcpkg\vcpkg install [paquetes a instalar] +``` + +también puede buscar bibliotecas que necesite usar el comando `search`: + +```cmd +> .\vcpkg\vcpkg search [término de búsqueda] +``` + +Para poder utilizar vcpkg con Visual Studio, +ejecute el siguiente comando (puede requerir privilegios de administrador): + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +Después de esto, puede crear un nuevo proyecto que no sea de CMake(MSBuild) o abrir uno existente. +Todas las bibliotecas estarán listas para ser incluidas y +usadas en su proyecto sin configuración adicional. + +Si está usando CMake con Visual Studio, +continúe [aquí](#vcpkg-con-proyectos-de-visual-studio\(CMake\)). + +Para utilizar Vcpkg con CMake sin un IDE, +puede utilizar el archivo de herramientas incluido: + +```cmd +> cmake -B [directorio de compilación] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [directorio de compilación] +``` + +Con CMake, todavía necesitara `find_package` y las configuraciones adicionales de la biblioteca. +Revise la [Sección de Cmake](#usando-vcpkg-con-cmake) para más información, +incluyendo el uso de CMake con un IDE. + +### Inicio rápido: Unix + +Prerrequisitos para Linux: + +- [Git][getting-started:git] +- [G++/GCC][getting-started:linux-gcc] >= 6 + +Prerrequisitos para macOS: + +- [Herramientas de desarrollo de Apple][getting-started:macos-dev-tools] + +Primero, descargue y compile vcpkg, puede ser instalado donde lo desee, +pero recomendamos usar vcpkg como un submodulo. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +Para instalar las bibliotecas para su proyecto, ejecute: + +```sh +$ ./vcpkg/vcpkg install [paquetes a instalar] +``` + +Nota: por defecto se instalarán las bibliotecas x86, para instalar x64, ejecute: + +```cmd +> .\vcpkg\vcpkg install [paquete a instalar]:x64-windows +``` + +O si desea instalar varios paquetes: + +```cmd +> .\vcpkg\vcpkg install [paquetes a instalar] --triplet=x64-windows +``` + +También puede buscar las bibliotecas que necesita con el subcomando `search`: + +```sh +$ ./vcpkg/vcpkg search [término de búsqueda] +``` + +Para usar vcpkg con CMake, tiene que usar el siguiente archivo toolchain: + +```sh +$ cmake -B [directorio de compilación] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [directorio de compilación] +``` + +Con CMake, todavía necesitara `find_package` y las configuraciones adicionales de la biblioteca. +Revise la [Sección de CMake](#usando-vcpkg-con-cmake) +para más información en cómo aprovechar mejor Vcpkg con CMake, +y CMake tools para VSCode. + +Para cualquier otra herramienta, visite la [guía de integración][getting-started:integration]. + +### Instalando Herramientas de desarrollo en Linux + +Según las distribuciones de Linux, hay diferentes paquetes +que necesitará instalar: + +- Debian, Ubuntu, popOS, y otra distribución basada en Debian: + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +Para cualquier otra distribución, asegúrese que dispone de g++ 6 o superior. +Si desea añadir instrucción para una distribución específica, +[cree un pull request][contributing:submit-pr] + +### Instalando Herramientas de desarrollo en macOS + +En macOS 10.15, solo tiene que ejecutar el siguiente comando en la terminal: + +```sh +$ xcode-select --install +``` + +Luego seguir los pasos que aparecerán en las ventanas que se muestran. + +Posteriormente podrá compilar vcpkg junto con la [guía de inicio rápido](#inicio-rápido-unix) + +### Usando Vcpkg con CMake + +¡Si está usando Vcpkg con CMake, lo siguiente puede ayudar! + +#### Visual Studio Code con CMake Tools + +Agregando lo siguiente al espacio de trabajo `settings.json` permitirá que +CMake Tools use automáticamente Vcpkg para las bibliotecas: + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[raíz de vcpkg]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +#### Vcpkg con proyectos de Visual Studio(CMake) + +Abra el editor de Ajustes de CMake, bajo la sección `CMake toolchain file`, +posteriormente agregue al path el archivo de cadena de herramientas de Vcpkg: + +```sh +[raíz de vcpkg]/scripts/buildsystems/vcpkg.cmake +``` + +#### Vcpkg con CLion + +Abra los ajustes de Cadena de Herramientas (Toolchains) +(File > Settings en Windows y Linux, Clion > Preferences en macOS), +y entre en la sección de ajustes de CMake (Build, Execution, Deployment > CMake). +Finalmente, en `CMake options`, agregue la línea siguiente: + +```sh +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +Desafortunadamente, tendrá que hacerlo para cada perfil. + +#### Vcpkg como Submódulo + +Cuando este usando Vcpkg como un submódulo para su proyecto, +puede agregar lo siguiente as su CMakeLists,txt antes de la primera llamada a `project()`, +en vez de pasar `CMAKE_TOOLCHAIN_FILE` a la invocación de CMake. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +Esto permitirá a las personas no usar Vcpkg, +indicando el `CMAKE_TOOLCHAIN_FILE` directamente, +sin embargo, hará el proceso de configuración y compilación más sencillo. + +### Inicio rápido: Manifiestos + +Así que desea ver cómo será el futuro de Vcpkg! +realmente lo apreciamos. Sin embargo, primero una advertencia: +el soporte de archivos de manifiesto aún está en beta, +aun así la mayoría debería funcionar, +pero no hay garantía de esto y es muy probable que encuentre uno o más bugs +mientras use Vcpkg en este modo. +Adicionalmente, es probablemente que se rompan comportamientos antes de que se pueda considerar estable, +así que está advertido. +Por favor [Abra un Problema][contributing:submit-issue] si encuentra algún error + +Primero, instale vcpkg normalmente para [Windows](#inicio-rápido-windows) o +[Unix](#inicio-rápido-unix). +Puede que desee instalar Vcpkg en un lugar centralizado, +ya que el directorio existe localmente, +y está bien ejecutar múltiples comandos desde el mismo directorio de vcpkg al mismo tiempo. + +Luego, se requiere activar la bandera de característica `manifests` en vcpkg agregando +`manifests` a los valores separados por coma en la opción `--feature-flags`, +o agregándole en los valores separados por coma en la variable de entorno `VCPKG_FEATURE_FLAGS` + +también puede que desee agregar Vcpkg al `PATH`. + +Luego, todo lo que hay que hacer es crear un manifiesto; +cree un archivo llamado `vcpkg.json`, y escriba lo siguiente: + +```json +{ + "name": "", + "version-string": "", + "dependencies": [ + "abseil", + "boost" + ] +} +``` + +Las bibliotecas serán instaladas en el directorio `vcpkg_installed`, +en el mismo directorio que su `vcpkg.json`. +Si puede usar el regular conjunto de herramientas de CMake, +o mediante la integración de Visual Studio/MSBuild, +este instalará las dependencias automáticamente, +pero necesitará ajustar `VcpkgManifestEnabled` en `On` para MSBuild. +Si desea instalar sus dependencias sin usar CMake o MSBuild, +puede usar un simple `vcpkg install --feature-flags=manifests` + +Para más información, revise la especificación de [manifiesto][getting-started:manifest-spec] + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #Instalando-Herramientas-de-desarrollo-en-Linux +[getting-started:macos-dev-tools]: #Instalando-Herramientas-de-desarrollo-en-macOS +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ +[getting-started:manifest-spec]: https://learn.microsoft.com/en-us/vcpkg/users/manifests + +## Completado-Tab/Autocompletado + +`vcpkg` soporta autocompletado para los comandos, nombres de paquetes, +y opciones, tanto en PowerShell como en bash. +para activar el autocompletado en la terminal de elección ejecute: + +```pwsh +> .\vcpkg integrate powershell +``` + +o + +```sh +$ ./vcpkg integrate bash # o zsh +``` + +según la terminal que use, luego reinicie la consola. + +## Ejemplos + +ver la [documentación](https://learn.microsoft.com/vcpkg) para tutoriales específicos, incluyendo +[instalando y usando un paquete](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[agregando un nuevo paquete desde un archivo comprimido](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +[agregando un nuevo paquete desde un repositorio en GitHub](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos). + +Nuestra documentación también esta disponible en nuestro sitio web [vcpkg.io](https://vcpkg.io/). +Si necesita ayuda puede [crear un incidente](https://github.com/vcpkg/vcpkg.github.io/issues). +¡Apreciamos cualquier retroalimentación! + +Ver un [video de demostración](https://www.youtube.com/watch?v=y41WFKbQFTw) de 4 minutos. + +## Contribuyendo + +Vcpkg es un proyecto de código abierto, y está construido con sus contribuciones. +Aquí hay unas de las maneras en las que puede contribuir: + +* [Creando Incidencias][contributing:submit-issue] en vcpkg o paquetes existentes +* [Creando Correcciones y Nuevos Paquetes][contributing:submit-pr] + +Por favor visite nuestra [Guía de Contribución](CONTRIBUTING.md) para más detalles. + +Este proyecto ha adoptado el [Código de Conducta de Microsoft de Código Abierto][contributing:coc]. +Para más información ver [Preguntas frecuentes del Código de Conducta][contributing:coc-faq] +o envíe un correo a [opencode@microsoft.com](mailto:opencode@microsoft.com) +con cualquier pregunta adicional o comentarios. + +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +## Licencia + +El código en este repositorio se encuentra licenciado mediante la [Licencia MIT](LICENSE.txt). +Las bibliotecas proveídas por los `ports` están licenciadas mediante los terminos de los autores originales. +Donde estén disponibles, vcpkg almacena las licencias asociadas en la siguiente ubicación `installed//share//copyright`. + +# Seguridad + +La mayoría de los `ports` en vcpkg construyen las bibliotecas usando su sistema de compilación preferido +por los autores originales de las bibliotecas, y descargan el código fuente asi como las herramientas de compilación +de sus ubicaciones de distribucion oficiales. Para aquellos que usan un firewall, el acceso dependerá de cuales `ports` +están siendo instalados. Si tiene que instalarlos en un entorno aislado, puede instalarlos previamente en un entorno +no aislado, generando un [caché del paquete](https://learn.microsoft.com/vcpkg/users/assetcaching) compartido con el entorno aislado. + +## Telemetría + +vcpkg recolecta datos de uso para mejorar su experiencia. +La información obtenida por Microsoft es anónima. +puede ser dado de baja de la telemetría realizando lo siguiente: + +- ejecutar el script `bootstrap-vcpkg` con el parametro `-disableMetrics` +- agregar el parametro `--disable-metrics` a vcpkg en la línea de comandos +- agregar la variable de entorno `VCPKG_DISABLE_METRICS` + +Se puede leer más sobre la telemetría de vcpkg en [https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy). diff --git a/cc-multilingual-main/cc_net/vcpkg/README_fr.md b/cc-multilingual-main/cc_net/vcpkg/README_fr.md new file mode 100644 index 0000000000000000000000000000000000000000..5d096768b0044186e929232e1f762d72dce35186 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_fr.md @@ -0,0 +1,311 @@ +# Vcpkg: Vue d'ensemble + +[中文总览](README_zh_CN.md) +[Español](README_es.md) + +Vcpkg vous aide à gérer vos bibliothèques C et C++ sur Windows, Linux et MacOS. +L'outil et l'écosystème sont en évolution constante, et nous apprécions vos contributions! + +Si vous n'avez jamais utilisé vcpkg, ou si vous essayez d'utiliser vcpkg, lisez notre [introduction](#introduction) pour comprendre comment l'utiliser. + +Pour une description des commandes disponibles, quand vous avez installé vcpkg, vous pouvez lancer `vcpkg help` ou `vcpkg help [commande]` pour de l'aide spécifique à une commande. + + +* GitHub: [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg) +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), the #vcpkg channel +* Discord: [\#include \](https://www.includecpp.org), le canal #🌏vcpkg +* Docs: [Documentation](https://learn.microsoft.com/vcpkg) + +[![Build Status](https://dev.azure.com/vcpkg/public/_apis/build/status/microsoft.vcpkg.ci?branchName=master)](https://dev.azure.com/vcpkg/public/_build/latest?definitionId=29&branchName=master) + +# Sommaire + +- [Vcpkg: Vue d'ensemble](#vcpkg-vue-d'ensemble) +- [Sommaire](#Sommaire) +- [Introduction](#introduction) + - [Introduction Windows](#Introduction:-Windows) + - [Introduction Unix](#Introduction-aux-Systèmes-Unix) + - [Installer les prérequis pour linux](#installation-des-prérequis-linux) + - [Installer les prérequis pour macOS](#installation-des-prérequis-macos) + - [Installer GCC pour macOS avant 10.15](#installer-gcc-pour-macos-avant-10.15) + - [Utiliser vcpkg avec CMake](#utiliser-vcpkg-avec-cmake) + - [Visual Studio Code avec CMake Tools](#visual-studio-code-avec-cmake-tools) + - [Vcpkg avec Visual Studio pour un projet CMake](#vcpkg-avec-visual-studio-un-projet-cmake) + - [Vcpkg avec CLion](#vcpkg-avec-clion) + - [Vcpkg en tant que sous module](#vcpkg-en-tant-que-sous-module) + - [Tab-Completion/Auto-Completion](#tab-complétionauto-complétion) + - [Exemples](#exemples) + - [Contribuer](#contribuer) + - [Licence](#licence) + - [Télémétrie](#Télémétrie) + +# Introduction + +Premièrement, suivez le guide d'introduction [Windows](#Introduction:-Windows), ou [macOS et Linux](#Unix), en fonction de vos besoins. + +Pour plus d'information, regardez [utiliser des paquets][getting-started:utiliser-un-paquet]. +Si la bibliothèque dont vous avez besoin n'est pas présente dans la liste, vous pouvez [ouvrir une issue sur le repo github](contribuer:faire-une-issue) où l'équipe de vcpkg et la communauté peuvent le voir, et possiblement ajouter le port de vcpkg. + +Après avoir installé et lancé vcpkg vous pourriez vouloir ajouter [l'auto-complétion](auto-completion) à votre shell. + +Si vous êtes intéressé par le futur de vcpkg, regardez le guide du [manifeste][getting-started:manifest-spec] ! +C'est une fonctionnalité expérimentale et possiblement boguée, donc essayez d'[ouvrir des issues](contribuer:envoyer-une-issue) ! + +# Introduction: Windows +Prérequis : + - Windows 7 ou plus + - [Git][getting-started:git] + + [Visual Studio][getting-started:visualstudio] 2015 mise à jour 3 où plus récente avec le pack de langue Anglais + +Premièrement, téléchargez et lancer le fichier bootstrap-vcpkg; il peut être installé n'importe où mais il est recommandé d'utiliser vcpkg pour des projets CMake. Nous recommandons ces chemins `C:\src\vcpkg` ou `C:\dev\vcpkg`, sinon vous pourriez avoir des problèmes de chemin pour certaines compilations. + + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +Pour installer des bibliothèques pour votre projet, lancez: + +```cmd +> .\vcpkg\vcpkg install [paquets à installer] +``` + +Vous pouvez aussi chercher la bibliothèque dont vous avez besoin avec l'argument `search`: + +```cmd +> .\vcpkg\vcpkg search [terme de recherche] +``` + + +Pour utiliser vcpkg avec Visual Studio, lancez cette commande (pourrait nécessiter d'être lancée avec les droits administrateur) + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +Ensuite, vous pouvez créer un nouveau projet n'utilisant pas CMake (ou en ouvrir un préexistant). +Toutes les bibliothèques installées sont directement prêtes à être `#include` et utilisées sans davantage de configuration. + +Si vous utilisez CMake avec Visual Studio continuez [ici](#vcpkg-avec-cmake-et-visual-studio). + +Afin d'utiliser vcpkg en dehors d'un IDE, vous pouvez utiliser le fichier de toolchain : + +```cmd +> cmake -B [dossier de build] -S . "-DCMAKE_TOOLCHAIN_FILE=[chemin vers vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [dossier de build] +``` + +Avec CMake, vous devrez utiliser `find_package` notamment, et autres, pour compiler. + +Regardez la [section CMake](#utiliser-vcpkg-avec-cmake) pour plus d'information, notamment utiliser CMake avec un IDE. + +Pour les autres éditeurs, y compris Visual Studio Code regardez le [guide d'intégration](getting-started:integration). + + +## Introduction aux Systèmes Unix + +Prérequis pour Linux : +- [Git][getting-started:git] +- [g++][getting-started:linux-gcc] >= 6 + +Prérequis pour macOS: +- [Outils de développement Apple][getting-started:macos-dev-tools] +- Pour macOS 10.14 et en dessous, vous aurez besoin de: + - [Homebrew][getting-started:macos-brew] + - [g++][getting-started:macos-gcc] >= 6 + +Premièrement, clonez et lancez le bootstrap vcpkg; il peut être installé n'importe où mais il est recommandé de l'utiliser comme un sous-module pour projets CMake. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +Pour installer des bibliothèques pour votre projet, lancez : + +```sh +$ ./vcpkg/vcpkg install [paquets à installer] +``` + +Vous pouvez aussi chercher la bibliothèque dont vous avez besoin avec l'argument `search` : + + +```sh +$ ./vcpkg/vcpkg search [terme de recherche] +``` + +Pour utiliser vcpkg en dehors d'un IDE, vous pouvez utiliser le fichier de toolchain : + +```cmd +> cmake -B [dossier de build] -S . "-DCMAKE_TOOLCHAIN_FILE=[chemin vers vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [dossier de build] +``` + +Avec CMake, vous devrez utiliser `find_package` notamment, et autres, pour compiler. + +Lisez la [section CMake](#utiliser-vcpkg-avec-cmake) pour plus d'information, notamment utiliser CMake avec un IDE. + +Pour les autres éditeurs, y compris Visual Studio Code lisez le [guide d'intégration][getting-started:integration]. + +## Installation des prérequis linux + +Pour les différentes distros Linux, il y a différents paquets que vous aurez besoin d'installer : + +- Debian, Ubuntu, popOS, et les autres distros basées sur Debian : + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +Pour les autres distributions, installez au minimum g++ 6. +Si vous voulez ajouter des instructions spécifiques pour votre distro, [ouvrez une PR svp][contribuer:faire-une-pr] ! + +## Installation des prérequis macOS + +Pour macOS 10.15, la seule chose dont vous avez besoin est de lancer cette commande : + +```sh +$ xcode-select --install +``` + +Ensuite suivez les instructions qui s'afficheront dans la fenêtre. + +Pour macOS 10.14 et les versions précédentes, vous aurez besoin d'installer g++ avec homebrew; suivez les instructions dans la section suivante. + +### Installer GCC pour macOS antérieur à 10.15 + +Cette partie est seulement nécessaire si vous avez une version de macOS antérieure à 10.15. + +Installer homebrew devrait être très simple; pour plus d'informations allez sur , mais le plus simple est de lancer la commande suivante : + +```sh +$ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install.sh)" +``` + +Ensuite, afin d'obtenir une version à jour de gcc, lancez la commande suivante : + +```sh +$ brew install gcc +``` + +Ensuite suivez l'[introduction Unix](#Introduction-aux-Systèmes-Unix) + +## Utiliser vcpkg avec CMake + +Si vous utilisez vcpkg avec CMake, la suite pourrait vous aider ! + +## Visual Studio Code avec CMake tools + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` +### Vcpkg avec des projets CMake Visual Studio + +Ouvrez les paramètres CMake, et ajoutez le chemin ci-dessous à `CMake toolchain file` : + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### Vcpkg avec CLion + +Ouvrez les paramètres de Toolchains (File > Settings sur Windows et Linux, CLion > Preference pour macOS) et allez dans les paramètres CMake (Build, Execution, Deployment > CMake). +Finalement, dans `CMake options`, ajoutez la ligne suivante : + +``` +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +Malheureusement, vous devrez le refaire pour chaque projet. + + +### Vcpkg en tant que sous-module + +Quand vous utilisez vcpkg comme un sous-module de votre projet, vous pouvez l'ajouter à votre CMakeLists.txt avant le premier appel de `project()`, au lieu d'utiliser `CMAKE_TOOLCHAIN_FILE` dans les paramètres d'appel de cmake. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +Cela permettra toujours aux gens de ne pas utiliser vcpkg, en passant directement le CMAKE_TOOLCHAIN_FILE, mais cela rendra l'étape de configuration-construction légèrement plus facile. + +[getting-started:utiliser-un-paquet]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:integration]: https://learn.microsoft.com/en-us/vcpkg/users/buildsystems/msbuild-integration +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #installing-linux-developer-tools +[getting-started:macos-dev-tools]: #installing-macos-developer-tools +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ +[getting-started:manifest-spec]: https://learn.microsoft.com/en-us/vcpkg/users/manifests + +# Tab-complétion/Auto-complétion + +`vcpkg` supporte l'auto-complétion des commandes, nom de paquets, et options dans powershell et bash. +Pour activer la tab-complétion dans le shell de votre choix : + +```pwsh +> .\vcpkg integrate powershell +``` + +ou + +```sh +$ ./vcpkg integrate bash +``` + +selon le shell que vous utilisez, puis redémarrez la console. + +# Exemples + +Lisez la [documentation](https://learn.microsoft.com/vcpkg) pour des instructions plus spécifiques ainsi que [l'installation et l'utilisation des paquets](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[ajouter un nouveau paquet depuis un fichier zip](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +et [ajouter un nouveau paquet depuis un dépôt GitHub](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos). + +La documentation est aussi disponible en ligne sur ReadTheDocs : ! + +Regardez une [démo vidéo]((https://www.youtube.com/watch?v=y41WFKbQFTw) de 4 minutes en anglais. + +# Contribuer + +Vcpkg est un projet open source, et évolue ainsi avec vos contributions. +Voici quelques moyens pour vous d'y contribuer : +* [Soumettre des Issues][contributing:submit-issue] sur vcpkg ou des paquets existants +* [Proposer des corrections et de nouveaux paquets][contributing:submit-pr] + + +Veuillez vous référer au [guide de contribution](CONTRIBUTING.md) pour plus de détails. + + +Ce projet a adopté le [Code de Conduite Open Source de Microsoft][contribuer:coc]. +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# Licence +Le code sur ce dépôt est distribué sous [licence MIT](LICENSE.txt). + +# Télémétrie + +vcpkg collecte des données pour nous aider à améliorer votre expérience. +Les données collectées par Microsoft sont anonymes. +Vous pouvez désactiver la télémétrie en relançant le bootstrap-vcpkg avec l'argument `-disableMetrics`, passer l'argument `--disable-metrics` à chaque exécution de vcpkg, ou en créant une variable d'environnement nommée `VCPKG_DISABLE_METRICS`. + +Vous trouverez plus d'informations à propos de la télémétrie dans vcpkg sur cette [page](https://learn.microsoft.com/vcpkg/about/privacy). diff --git a/cc-multilingual-main/cc_net/vcpkg/README_ko_KR.md b/cc-multilingual-main/cc_net/vcpkg/README_ko_KR.md new file mode 100644 index 0000000000000000000000000000000000000000..079f08c2b15686f7ae11b8c50a4c01108999d56e --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_ko_KR.md @@ -0,0 +1,346 @@ +# Vcpkg: 개요 + +[中文总览](README_zh_CN.md) +[Español](README_es.md) +[English](README.md) +[Français](README_fr.md) + +Vcpkg는 Windows, Linux 및 MacOS에서 C 및 C++ 라이브러리를 관리하는 데 도움을 주는 라이브러리입니다. +이 도구와 생태계는 지속적으로 진화하고 있으며, 저희는 기여를 언제나 환영합니다! + +이전에 vcpkg를 사용한 적이 없거나 vcpkg를 사용하는 방법을 알고 싶을 경우, +아래의 [시작하기](#시작하기) 단락을 확인하면 vcpkg 사용을 시작하는 방법이 설명되어 있습니다. + +Vcpkg를 설치하였다면, `vcpkg help` 명령어로 사용 가능한 명령어에 대한 간단한 설명을 볼 수 있습니다. +`vcpkg help [command]` 명령어로는 각 명령어별 도움말을 볼 수 있습니다. + +* GitHub: port는 [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg)에, 관련 프로그램은 [https://github.com/microsoft/vcpkg-tool](https://github.com/microsoft/vcpkg-tool)에 있습니다. +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), #vcpkg 채널 +* Discord: [\#include \](https://www.includecpp.org), #🌏vcpkg 채널 +* 도움말: [Documentation](https://learn.microsoft.com/vcpkg) + +# 목차 + +- [Vcpkg: 개요](#vcpkg-개요) +- [목차](#목차) +- [시작하기](#시작하기) + - [빠르게 시작하기: Windows](#빠르게-시작하기-windows) + - [빠르게 시작하기: Unix](#빠르게-시작하기-unix) + - [Linux 개발자 도구 설치하기](#linux-개발자-도구-설치하기) + - [macOS 개발자 도구 설치하기](#macos-개발자-도구-설치하기) + - [CMake와 함께 vcpkg 사용](#cmake와-함께-vcpkg-사용) + - [Visual Studio Code와 CMake Tools](#visual-studio-code와-cmake-tools) + - [Vcpkg와 Visual Studio CMake 프로젝트](#vcpkg와-visual-studio-cmake-프로젝트) + - [Vcpkg와 CLion](#vcpkg와-clion) + - [서브모듈로 vcpkg 사용하기](#서브모듈로-vcpkg-사용하기) +- [탭 완성/자동 완성](#탭-완성자동-완성) +- [예시](#예시) +- [기여하기](#기여하기) +- [라이선스](#라이선스) +- [보안](#보안) +- [데이터 수집](#데이터-수집) + +# 시작하기 + +먼저, 사용하는 운영체제에 따라 +[윈도우](#빠르게-시작하기-windows) 또는 [macOS와 Linux](#빠르게-시작하기-unix) +빠르게 시작하기 가이드를 따라가세요. + +더 자세한 정보는 [패키지 설치 및 사용][getting-started:using-a-package]에 있습니다. +만약 필요한 라이브러리가 vcpkg 카탈로그에 없는 경우, +[GitHub 저장소에서 이슈를 열 ​​수 있습니다][contributing:submit-issue]. +Vcpkg 팀과 커뮤니티가 이슈를 확인하면, 해당하는 port를 추가할 수 있습니다. + +Vcpkg의 설치가 완료되었다면, +셸에 [탭 완성](#탭-완성자동-완성)을 추가할 수 있습니다. + +마지막으로, vcpkg의 미래에 관심이 있다면, +[manifest][getting-started:manifest-spec] 가이드를 확인하세요! +이것은 실험적인 기능이며 버그가 있을 가능성이 높습니다. +시도해보고 문제가 있다면 [이슈를 열어주세요][contributing:submit-issue]! + +## 빠르게 시작하기: Windows + +필요조건: +- Windows 7 이상 +- [Git][getting-started:git] +- [Visual Studio][getting-started:visual-studio] 영어 언어팩이 설치된 2015 Update 3 버전 이상 + +첫번째로, vcpkg 자체를 다운로드하고 부트스트랩합니다. Vcpkg는 어디에나 설치할 수 있지만, +일반적으로 CMake 프로젝트는 vcpkg를 submodule로 사용하는 것을, +Visual Studio 프로젝트는 시스템에 설치하는 것을 추천합니다. +시스템 설치는 `C:\src\vcpkg` 나 `C:\dev\vcpkg` 등의 위치에 하는 것을 권장하는데, +그렇지 않으면 일부 포트 빌드 시스템에서 경로 문제가 발생할 수도 있기 때문입니다. + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +당신의 프로젝트에 라이브러리를 설치하려면 다음 명령을 실행하세요. + +```cmd +> .\vcpkg\vcpkg install [packages to install] +``` + +참고로, 위 명령은 x86 라이브러리를 설치하는 것이 기본 설정입니다. 만약 x64 버전을 +설치하고 싶다면, 다음 명령을 실행하세요. + +```cmd +> .\vcpkg\vcpkg install [package name]:x64-windows +``` + +또는 이렇게도 가능합니다. + +```cmd +> .\vcpkg\vcpkg install [packages to install] --triplet=x64-windows +``` + +다음과 같이 `search` 하위 명령어를 사용하여 필요한 라이브러리를 검색할 수도 있습니다. + +```cmd +> .\vcpkg\vcpkg search [search term] +``` + +Visual Studio에서 vcpkg를 사용하려면 +다음 명령을 실행해야 합니다(관리자 권한이 필요할 수도 있습니다). + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +이제 CMake를 사용하지 않는 프로젝트도 만들 수 (또는 기존 프로젝트를 열 수) 있습니다. +설치한 모든 라이브러리는 추가 설정 없이도 프로젝트에서 즉시 `# include` 및 사용할 수 있습니다. + +Visual Studio에서 CMake를 사용하는 경우, +[여기를 보세요](#vcpkg와-visual-studio-cmake-프로젝트). + +IDE 외부에서 CMake와 함께 vcpkg를 사용하려면, +다음과 같이 툴체인 파일을 사용할 수 있습니다. + +```cmd +> cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [build directory] +``` + +CMake에서 라이브러리를 사용하려면 여전히 `find_package` 등이 필요합니다. +CMake를 IDE와 사용하는 방법을 포함한 +자세한 정보는 [CMake 섹션](#cmake와-함께-vcpkg-사용)을 확인하세요. + +Visual Studio Code를 포함한 다른 툴의 경우 +[통합 가이드][getting-started:integration]를 확인하세요. + +## 빠르게 시작하기: Unix + +Linux에서의 필요조건: +- [Git][getting-started:git] +- [g++][getting-started:linux-gcc] >= 6 + +macOS에서의 필요조건: +- [Apple Developer Tools][getting-started:macos-dev-tools] + +우선, vcpkg 자체를 다운로드하고 설치해야 합니다. 어디에나 설치할 수 있지만, +일반적으로 CMake 프로젝트의 하위 모듈로 vcpkg를 사용하는 것이 좋습니다. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +프로젝트에 라이브러리를 설치하려면 다음 명령을 실행하세요. + +```sh +$ ./vcpkg/vcpkg install [packages to install] +``` + +다음과 같이 `search` 하위 명령어를 사용하여 필요한 라이브러리를 검색할 수도 있습니다. + +```sh +$ ./vcpkg/vcpkg search [search term] +``` + +CMake와 함께 vcpkg를 사용하려면 툴체인 파일을 이용해 보세요. + +```sh +$ cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [build directory] +``` + +CMake에서 라이브러리를 사용하려면 여전히 `find_package` 등이 필요합니다. +CMake와 VSCode를 위한 CMake Tools를 vcpkg와 함께 사용하는 최선의 방법을 포함한 +자세한 정보는 [CMake 섹션](#cmake와-함께-vcpkg-사용)을 확인하세요. + +다른 툴에 대해서는 [통합 가이드][getting-started:integration]를 확인하세요. + +## Linux 개발자 도구 설치하기 + +Linux의 배포판별로 설치해야 하는 개발자 소프트웨어가 다릅니다. + +- Debian, Ubuntu, popOS 및 기타 Debian 기반 배포판 + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +다른 배포판의 경우, g++ 6 이상의 버전을 설치하여야 합니다. +특정 배포판에 대한 안내를 추가하고 싶은 경우, +[PR을 열어주세요][contributing:submit-pr]! + +## macOS 개발자 도구 설치하기 + +macOS에서는 터미널에서 다음 명령어를 실행하기만 하면 됩니다. + +```sh +$ xcode-select --install +``` + +그런 다음 나타나는 창의 안내에 따르세요. + +설치가 끝나면 [빠른 시작 가이드](#빠르게-시작하기-unix)를 참고하여 vcpkg를 설치하세요. + +## CMake와 함께 vcpkg 사용 + +CMake와 함께 vcpkg를 사용하는 경우, 다음 내용이 도움이 될 것입니다! + +### Visual Studio Code와 CMake Tools + +Workspace `settings.json` 파일에 다음을 추가하면 +CMake Tools는 자동으로 vcpkg의 라이브러리를 사용할 것입니다. + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +### Vcpkg와 Visual Studio CMake 프로젝트 + +CMake 설정 편집기를 열고 `CMake toolchain file`에서 +vcpkg 툴체인 파일에 경로를 추가합니다. + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### Vcpkg와 CLion + +Toolchains settings을 엽니다. +(File > Settings on Windows and Linux, CLion > Preferences on macOS), +그리고 CMake 세팅을 엽니다 (Build, Execution, Deployment > CMake). +마지막으로 `CMake options`에서 다음 줄을 추가합니다. + +``` +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +각 프로필에 이것을 추가해야합니다. + +### 서브모듈로 vcpkg 사용하기 + +프로젝트의 서브모듈로 vcpkg를 사용하는 경우, +cmake 실행 시 `CMAKE_TOOLCHAIN_FILE`을 전달하는 대신, +첫 번째 `project()` 호출 전에 CMakeLists.txt에 다음을 추가하는 방법도 있습니다. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +이렇게 하면 설정-빌드 단계가 약간 더 쉬워집니다. +또한, 여전히 `CMAKE_TOOLCHAIN_FILE`을 직접 전달하면 +vcpkg를 사용하지 않을 수 있습니다. + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:integration]: https://learn.microsoft.com/en-us/vcpkg/users/buildsystems/msbuild-integration +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #installing-linux-developer-tools +[getting-started:macos-dev-tools]: #installing-macos-developer-tools +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ +[getting-started:manifest-spec]: https://learn.microsoft.com/en-us/vcpkg/users/manifests + +# 탭 완성/자동 완성 + +`vcpkg`는 powershell과 bash 모두에서 명령, 패키지 이름 및 옵션의 자동 완성을 지원합니다. +선택한 셸에서 탭 완성을 활성화하려면 다음 두 명령어 중 하나를 실행합니다. + +```pwsh +> .\vcpkg integrate powershell +``` + +```sh +$ ./vcpkg integrate bash # or zsh +``` + +그 다음 콘솔을 재시작하세요. + +# 예시 + +[패키지 설치 및 사용](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[zip 파일에서 새 패키지 추가](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +[GitHub 저장소에서 새 패키지 추가](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos)에 +대한 구체적인 예시는 [문서](https://learn.microsoft.com/vcpkg)를 참고하세요. + +문서는 이제 웹사이트 https://vcpkg.io/ 에서도 온라인으로 확인 가능합니다. 모든 피드백에 진심으로 감사드립니다! +https://github.com/vcpkg/vcpkg.github.io/issues 에서 이슈를 제출할 수 있습니다. + +[4분짜리 데모 영상도 준비되어 있습니다](https://www.youtube.com/watch?v=y41WFKbQFTw). + +# 기여하기 + +Vcpkg는 오픈소스 프로젝트입니다, 따라서 여러분의 기여를 통해 만들어집니다. +기여할 수 있는 몇 가지 방법은 다음과 같습니다. + +* Vcpkg 또는 vcpkg에 포함된 패키지의 [이슈 제출][contributing:submit-issue] +* [수정 사항 및 새 패키지 제출][contributing:submit-pr] + +자세한 내용은 [기여 가이드](CONTRIBUTING.md)를 참고하세요. + +이 프로젝트는 [Microsoft Open Source Code of Conduct][contributing:coc]을 채택했습니다. +더 많은 정보를 얻고 싶다면 [Code of Conduct FAQ][contributing:coc-faq] 문서를 참고하세요. +추가 질문이나 의견은 이메일 [opencode@microsoft.com](mailto:opencode@microsoft.com)로 보내주세요. + +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# 라이선스 + +이 저장소의 코드는 [MIT 라이선스](LICENSE.txt)에 따라 사용이 허가됩니다. Port로 제공되는 +라이브러리는 각 라이브러리의 원저자가 설정한 라이선스에 따라 제공됩니다. 가능한 경우, vcpkg는 +`installed//share//copyright`에 관련된 라이선스를 저장합니다. + +# 보안 + +Vcpk가 제공하는 대부분의 port는 각각의 라이브러리를 빌드할 때 +원 개발자들이 권장하는 빌드 시스템을 이용하고, +소스 코드와 빌드 도구를 각각의 공식 배포처로부터 다운로드합니다. +방화벽 뒤에서 사용하는 경우, 어떤 port를 설치하느냐에 따라 필요한 접근 권한이 달라질 수 있습니다. +만약 "air gapped" 환경에서 설치해야만 한다면, "air gapped"가 아닌 환경에서 +[asset 캐시](https://learn.microsoft.com/vcpkg/users/assetcaching)를 다운로드하고, +이후에 "air gapped" 환경에서 공유하는 것을 고려해 보십시오. + +# 데이터 수집 + +vcpkg는 사용자 경험을 개선하는 데 도움이 되도록 사용 데이터를 수집합니다. +Microsoft는 이 정보를 익명으로 수집합니다. +다음을 통해 원격 정보 제공을 비활성화할 수 있습니다. +- -disableMetrics 옵션을 포함하여 bootstrap-vcpkg 스크립트 실행 +- 명령줄에서 vcpkg에 --disable-metrics 전달 +- VCPKG_DISABLE_METRICS 환경 변수 설정 + +[https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy)에서 vcpkg 데이터 수집에 대해 자세히 알아보세요. diff --git a/cc-multilingual-main/cc_net/vcpkg/README_pt.md b/cc-multilingual-main/cc_net/vcpkg/README_pt.md new file mode 100644 index 0000000000000000000000000000000000000000..c98907bbd5cbf0f0118f22ddea121ca383dcbad2 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_pt.md @@ -0,0 +1,334 @@ +# Vcpkg: visão geral + +[中文总览](README_zh_CN.md) | +[Español](README_es.md) | +[한국어](README_ko_KR.md) | +[Français](README_fr.md) | +[English](README.md) + +Vcpkg ajuda você a gerenciar bibliotecas C e C++ no Windows, Linux e MacOS. +Esta ferramenta e ecossistema estão em constante evolução e sempre agradecemos as contribuições! + +Se você nunca usou o vcpkg antes, ou se está tentando descobrir como usar o vcpkg, +confira nossa seção [Primeiros passos](#getting-started) para saber como começar a usar o vcpkg. + +Para obter uma breve descrição dos comandos disponíveis, depois de instalar o vcpkg, +você pode executar `vcpkg help`, ou `vcpkg help [command]` para obter ajuda específica do comando. + +* GitHub: pacote completo em [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg), programa em [https://github.com/microsoft/vcpkg-tool](https://github.com/microsoft/vcpkg-tool) +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), the #vcpkg channel +* Discord: [\#include \](https://www.includecpp.org), the #🌏vcpkg channel +* Documentos: [Documentation](https://learn.microsoft.com/vcpkg) + +# Índice + +* [Vcpkg: visão geral](#vcpkg-visão-geral) +* [Índice](#Índice) +* [Primeiros passos](#primeiros-passos) + * [Início rápido: Windows](#início-rápido-windows) + * [Início rápido: Unix](#início-rápido-unix) + * [Instalando ferramentas de desenvolvedor do Linux](#Instalando-ferramentas-de-desenvolvedor-do-Linux) + * [Instalando ferramentas de desenvolvedor do macOS](#instalando-ferramentas-de-desenvolvedor-do-macos) + * [Usando vcpkg com CMake](#usando-vcpkg-com-cmake) + * [Visual Studio Code com CMake Tools](#visual-studio-code-com-ferramentas-cmake) + * [Vcpkg com Projectos Visual Studio CMake](#vcpkg-com-projectos-visual-studio-cmake) + * [Vcpkg com CLion](#vcpkg-com-clion) + * [Vcpkg como um submódulo](#vcpkg-como-um-submódulo) +* [Tab-Completion/Auto-Completion](#tab-completionauto-completion) +* [Exemplos](#exemplos) +* [Contribuindo](#contribuindo) +* [Licença](#licença) +* [Segurança](#segurança) +* [Telemetria](#telemetria) + +# Primeiros passos + +Primeiro, siga o guia de início rápido para +[Windows](#início-rápido-windows) ou [macOS e Linux](#início-rápido-unix), +dependendo do que você está usando. + +Para obter mais informações, consulte [Instalando e usando pacotes] [primeiros passos: usando um pacote]. +Se uma biblioteca que você precisa não estiver presente no catálogo vcpkg, +você pode [abrir um problema no repositório do GitHub][contributing:submit-issue] +onde a equipe e a comunidade do vcpkg possam vê-lo, +e potencialmente adicionar a porta ao vcpkg. + +Depois de ter vcpkg instalado e funcionando, +você pode querer adicionar [tab-completion](#tab-completionauto-completion) ao seu shell. + +Finalmente, se você estiver interessado no futuro do vcpkg, +confira o guia [manifesto][introdução: especificação do manifesto]! +Este é um recurso experimental e provavelmente terá bugs, +então experimente e [abra todos os problemas][contribuir: enviando-problema]! + +## Início rápido: Windows + +Pré-requisitos: +- Windows 7 ou mais recente +- [Git][primeiros passos:git] +- [Visual Studio] [primeiros passos: visual-studio] 2015 Update 3 ou superior com o pacote de idioma inglês + +Primeiro, baixe e inicialize o próprio vcpkg; pode ser instalado em qualquer lugar, +mas geralmente recomendamos usar vcpkg como um submódulo para projetos CMake, +e instalá-lo globalmente para projetos do Visual Studio. +Recomendamos algum lugar como `C:\src\vcpkg` ou `C:\dev\vcpkg`, +caso contrário, você pode ter problemas de caminho para alguns sistemas de compilação de portas. + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +Para instalar bibliotecas para os seus projectos, execute: + +```cmd +> .\vcpkg\vcpkg install [nome do pacote por instalar] +``` + +Nota: este comando irá instalar bibliotecas x86 por padrão. Para instalar x64, execute: + +```cmd +> .\vcpkg\vcpkg install [nome do pacote por instalar]:x64-windows +``` + +Ou + +```cmd +> .\vcpkg\vcpkg install [nome do pacote por instalar] --triplet=x64-windows +``` + +Voce pode também procurar pela biblioteca que precisa com o subcomando `search`: + +```cmd +> .\vcpkg\vcpkg search [termo de procura] +``` + +Para usar o vcpkg com o Visual Studio, +execute o seguinte comando (pode exigir autorização do administrador): + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +Depois disso, agora você pode criar um novo projeto sem CMake (ou abrir um já existente). +Todas as bibliotecas instaladas estarão imediatamente prontas para serem `#include`'d e usadas +em seu projeto sem configuração adicional. + +Se você estiver usando o CMake com o Visual Studio, +continue [aqui](#vcpkg-com-projectos-visual-studio-cmake). + +Para usar vcpkg com CMake fora de um IDE, +você pode usar o arquivo toolchain: + +```cmd +> cmake -B [diretorio de trabalho] -S . "-DCMAKE_TOOLCHAIN_FILE=[localizacao do vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [diretorio de trabalho] +``` + +Com o CMake, você ainda precisará de `find_package` (localizar os pacotes) e similares para usar as bibliotecas. +Confira a [secção CMake](#usando-vcpkg-com-cmake) para mais informações, +incluindo o uso do CMake com um IDE. + +Para quaisquer outras ferramentas, incluindo o Visual Studio Code, +confira o [guia de integração][primeiros passos: integração]. + +## Início rápido: Unix + +Pré-requisitos para Linux: +- [Git][primeiros passos:git] +- [g++][primeiros passos:linux-gcc] >= 6 + +Pré-requisitos para macOS: +- [Apple Developer Tools][primeiros passos: macos-dev-tools] + +Primeiro, baixe e inicialize o próprio vcpkg; pode ser instalado em qualquer lugar, +mas geralmente recomendamos o uso de vcpkg como um submódulo para projetos CMake. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +Para instalar as bibliotecas do seu projecto, execute: + +```sh +$ ./vcpkg/vcpkg install [pacote por instalar] +``` + +Voce pode também procurar pela biblioteca que precisa com o subcomando `search`: + +```sh +$ ./vcpkg/vcpkg search [termo de pesquisa] +``` + +Para usar vcpkg com CMake, você pode usar o arquivo toolchain: + +```sh +$ cmake -B [diretorio de trabalho] -S . "-DCMAKE_TOOLCHAIN_FILE=[localizacao do vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [diretorio de trabalho] +``` + +Com o CMake, você ainda precisará `find_package` e similares para usar as bibliotecas. +Confira a [seção CMake](#using-vcpkg-with-cmake) +para obter mais informações sobre a melhor forma de usar vcpkg com CMake, +e ferramentas CMake para VSCode. + +Para quaisquer outras ferramentas, confira o [guia de integração][primeiros passos:integração]. + +## Instalando ferramentas de desenvolvedor do Linux + +Nas diferentes distros do Linux, existem diferentes pacotes que você +precisa instalar: + +- Debian, Ubuntu, popOS e outras distribuições baseadas em Debian: + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +Para quaisquer outras distribuições, certifique-se de instalar o g++ 6 ou superior. +Se você deseja adicionar instruções para sua distro específica, [abra um PR][contribuindo:enviar-pr]! + +## Instalação das ferramentas de desenvolvedor do macOS + +No macOS, a única coisa que você precisa fazer é executar o seguinte no seu terminal: + +```sh +$ xcode-select --install +``` + +Em seguida, siga as instruções nas janelas que aparecerem. + +Você poderá inicializar o vcpkg junto com o [guia de início rápido](#quick-start-unix) + +## Usando vcpkg com CMake + +### Visual Studio Code com ferramentas CMake + +Adicionar o seguinte ao seu espaço de trabalho `settings.json` fará CMake Tools usar automaticamente `vcpkg` para bibliotecas: + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +### Vcpkg com Projetos CMake do Visual Studio + +Abra o CMake Settings Editor e, em `CMake toolchain file`, adicione o caminho ao arquivo de cadeia de ferramentas vcpkg: + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### Vcpkg com CLion + +Abra as configurações das cadeias de ferramentas +(Arquivo > Configurações no Windows e Linux, CLion > Preferências no macOS), e vá para as configurações do CMake (Build, Execution, Deployment > CMake). Finalmente, em `CMake options`, adicione a seguinte linha: + +``` +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +Você deve adicionar esta linha a cada perfil. + +### Vcpkg como um submódulo + +Ao usar o vcpkg como um submódulo do seu projeto, +você pode adicionar o seguinte ao seu CMakeLists.txt antes da primeira chamada `project()`, em vez de passar `CMAKE_TOOLCHAIN_FILE` para a invocação do cmake. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +Isso ainda permitirá que as pessoas não usem o vcpkg, passando o `CMAKE_TOOLCHAIN_FILE` diretamente, mas tornará a etapa de configuração-construção um pouco mais fácil. + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:integration]: https://learn.microsoft.com/en-us/vcpkg/users/buildsystems/msbuild-integration +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #installing-linux-developer-tools +[getting-started:macos-dev-tools]: #installing-macos-developer-tools +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ +[getting-started:manifest-spec]: https://learn.microsoft.com/en-us/vcpkg/users/manifests + +# Tab-Completion/Auto-Completion + +`vcpkg` suporta preenchimento automático de comandos, nomes de pacotes, e opções em powershell e bash. Para habilitar o preenchimento de tabulação no shell de sua escolha, execute: + +```pwsh +> .\vcpkg integrate powershell +``` + +Ou: + +```sh +$ ./vcpkg integrate bash # or zsh +``` + +dependendo do shell que você usa, reinicie o console. + +# Exemplos + +Consulte a [documentação](https://learn.microsoft.com/vcpkg) para orientações específicas, +incluindo [instalando e usando um pacote](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[adicionando um novo pacote de um arquivo zip](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +e [adicionando um novo pacote de um repositório GitHub](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos). + +Nossos documentos agora também estão disponíveis online em nosso site . Nós realmente apreciamos todo e qualquer feedback! Você pode enviar um problema em . + +Veja um [vídeo de demonstração](https://www.youtube.com/watch?v=y41WFKbQFTw) de 4 minutos. + +# Contribuindo + +Vcpkg é um projeto de código aberto e, portanto, é construído com suas contribuições. +Aqui estão algumas maneiras pelas quais você pode contribuir: + +* [Enviar problemas][contributing:submit-issue] em vcpkg ou pacotes existentes +* [Enviar correções e novos pacotes][contributing:submit-pr] + +Consulte nosso [Guia de contribuição](CONTRIBUTING.md) para obter mais detalhes. + +Este projeto adotou o [Código de Conduta de Código Aberto da Microsoft][contributing:coc]. +Para obter mais informações, consulte as [Perguntas frequentes sobre o Código de Conduta][contributing:coc-faq] +ou e-mail [opencode@microsoft.com](mailto:opencode@microsoft.com) +com quaisquer perguntas ou comentários adicionais. + +[contribuindo:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contribuindo:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contribuindo:coc]: https://opensource.microsoft.com/codeofconduct/ +[contribuindo:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# Segurança + +A maioria das portas no vcpkg compila as bibliotecas em questão usando o sistema de compilação original preferido +pelos desenvolvedores originais dessas bibliotecas e baixar o código-fonte e criar ferramentas de seus +locais de distribuição oficiais. Para uso atrás de um firewall, o acesso específico necessário dependerá +em quais portas estão sendo instaladas. Se você precisar instalar em um ambiente "air gap", considere +instalando uma vez em um ambiente sem "air gap", preenchendo um +[cache de ativos](https://learn.microsoft.com/vcpkg/users/assetcaching) compartilhado com o ambiente "air gapped". + +# Telemetria + +vcpkg coleta dados de uso para nos ajudar a melhorar sua experiência. +Os dados coletados pela Microsoft são anônimos. +Você pode cancelar a telemetria por +- executando o script bootstrap-vcpkg com -disableMetrics +- passando --disable-metrics para vcpkg na linha de comando +- definir a variável de ambiente VCPKG_DISABLE_METRICS + +Leia mais sobre a telemetria vcpkg em [https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy). diff --git a/cc-multilingual-main/cc_net/vcpkg/README_vn.md b/cc-multilingual-main/cc_net/vcpkg/README_vn.md new file mode 100644 index 0000000000000000000000000000000000000000..b57b107f2a3427cfa1a17920b802570879e46fc5 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_vn.md @@ -0,0 +1,330 @@ +# Vcpkg: Tổng quan + +[English](README.md) +[中文总览](README_zh_CN.md) +[Español](README_es.md) +[한국어](README_ko_KR.md) +[Français](README_fr.md) + +Vcpkg giúp bạn quản lý các thư viện C và C++ trên Windows, Linux và MacOS. +Phần mềm này và hệ sinh thái của nó vẫn đang không ngừng phát triển, và chúng tôi luôn trân trọng những đóng góp của bạn! + +Nếu bạn chưa từng sử dụng vcpkg trước đây, hoặc nếu bạn đang tìm hiểu cách để sử dụng vcpkg, xin hãy xem phần [Bắt Đầu](#bắt-đầu) cho hướng dẫn cài đặt vcpkg. + +Để xem mô tả ngắn về những lệnh khả thi, khi bạn đã cài đặt vcpkg, bạn có thể chạy `vcpkg help`, hoặc `vcpkg help [command]` cho những lệnh nhất định. + +* GitHub: Các port ở [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg), phần mềm ở [https://github.com/microsoft/vcpkg-tool](https://github.com/microsoft/vcpkg-tool) +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), kênh #vcpkg +* Discord: [\#include \](https://www.includecpp.org), kênh #🌏vcpkg +* Docs: [Tài liệu](https://learn.microsoft.com/vcpkg) + +# Mục Lục + +- [Vcpkg: Tổng quan](#vcpkg-tổng-quan) +- [Mục Lục](#mục-lục) +- [Bắt Đầu](#bắt-đầu) + - [Bắt Đầu Nhanh: Windows](#bắt-đầu-nhanh-windows) + - [Bắt Đầu Nhanh: Unix](#bắt-đầu-nhanh-unix) + - [Cài đặt Developer Tools cho Linux](#cài-đặt-developer-tools-cho-linux) + - [Cài đặt Developer Tools cho macOS](#cài-đặt-developer-tools-cho-macos) + - [Sử dụng vcpkg với CMake](#sử-dụng-vcpkg-với-cmake) + - [Visual Studio Code với Công cụ CMake](#visual-studio-code-với-công-cụ-cmake) + - [Vcpkg với Visual Studio CMake Projects](#vcpkg-với-visual-studio-cmake-projects) + - [Vcpkg với CLion](#vcpkg-với-clion) + - [Vcpkg dưới dạng Submodule](#vcpkg-dưới-dạng-submodule) +- [Gợi ý/Tự động điền](#gợi-ýtự-động-điền) +- [Các ví dụ](#các-ví-dụ) +- [Đóng Góp](#đóng-góp) +- [Giấy Phép](#giấy-phép) +- [Bảo Mật](#bảo-mật) +- [Thu Thập Dữ Liệu](#thu-thập-dữ-liệu) + +# Bắt Đầu +Đầu tiên, hãy làm theo hướng dẫn cài đặt cho [Windows](#bắt-đầu-nhanh-windows), hoặc [macOS và Linux](#bắt-đầu-nhanh-unix), tùy theo hệ điều hành mà bạn đang sử dụng. + +Ngoài ra, hãy xem [Cài đặt và Sử dụng Packages][getting-started:using-a-package]. +Nếu một thư viện bạn cần hiện đang chưa có trong vcpkg, bạn có thể [mở một issue trên GitHub repo][contributing:submit-issue] nơi mà đội ngũ vcpkg và cộng đồng có thể thấy và có khả năng thêm port đó vào vcpkg. + +Sau khi bạn đã cài đặt vcpkg, bạn có thể muốn thêm [tự động điền](#gợi-ýtự-động-điền) vào shell của bạn. + +## Bắt Đầu Nhanh: Windows + +Yêu cầu: +- Windows 7 trở lên +- [Git][getting-started:git] +- [Visual Studio][getting-started:visual-studio] 2015 Update 3 trở lên với gói ngôn ngữ Tiếng Anh + +Đầu tiên, tải và khởi động vcpkg; nó có thể được cài đặt bất kỳ đâu, nhưng +chúng tôi khuyến cáo sử dụng vcpkg như một submoudle cho các project CMake, +và cài đặt nó toàn máy cho các project Visual Studio. +Chúng tôi gợi ý cài ở những nơi như `C:\src\vcpkg` hoặc `C:\dev\vcpkg`, +bởi vì nếu cài những nơi khác bạn có thể gặp các lỗi đường dẫn đối với +hệ thống build của một vài port. + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +Để cài đặt các thư viện cho project của bạn, hãy chạy: + +```cmd +> .\vcpkg\vcpkg install [packages to install] +``` + +Lưu ý: Lệnh này sẽ mặc định cài đặt phiên bản x86 của thư viện, để cài x64 hãy chạy: + +```cmd +> .\vcpkg\vcpkg install [package name]:x64-windows +``` + +Hoặc + +```cmd +> .\vcpkg\vcpkg install [packages to install] --triplet=x64-windows +``` + +Bạn cũng có thể tìm kiếm các thư viện bạn cần với lệnh `search`: + +```cmd +> .\vcpkg\vcpkg search [search term] +``` + +Để sử dụng vcpkg với Visual Studio, +hãy chạy lệnh sau (có thể yêu cầu quyền administrator): + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +Sau khi xong, bạn có thể tạo một project mới (trừ CMake), hoặc mở một project có sẵn. +Tất cả các thư viện sẽ ngay lập tức có sẵn để được `#include` và sử dụng +trong project của bạn mà không cần cấu hình gì thêm. + +Nếu bạn đang sử dụng CMake với Visual Studio, +hãy tiếp tục [ở đây](#vcpkg-với-visual-studio-cmake-projects). + +Để sử dụng vcpkg với CMake bên ngoài một IDE, +bạn có thể sử dụng file toolchain: + +```cmd +> cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [build directory] +``` + +Với CMake, bạn vẫn sẽ cần thêm `find_package` và những lệnh khác để sử dụng thư viện. +Hãy xem [phần CMake](#sử-dụng-vcpkg-với-cmake) để biết thêm, +bao gồm việc sử dụng CMake với một IDE. + +## Bắt Đầu Nhanh: Unix + +Yêu cầu cho Linux: +- [Git][getting-started:git] +- [g++][getting-started:linux-gcc] >= 6 + +Yêu cầu cho macOS: +- [Apple Developer Tools][getting-started:macos-dev-tools] + +Đầu tiên, tải và khởi động vcpkg; nó có thể được cài đặt bất kỳ đâu, nhưng +chúng tôi khuyến cáo sử dụng vcpkg như một submoudle cho các project CMake. + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +Để cài đặt các thư viện cho project của bạn, hãy chạy: + +```sh +$ ./vcpkg/vcpkg install [packages to install] +``` + +Bạn cũng có thể tìm kiếm các thư viện bạn cần với lệnh `search`: + +```sh +$ ./vcpkg/vcpkg search [search term] +``` + +Để sử dụng vcpkg với CMake, bạn có thể sử dụng file toolchain: + +```sh +$ cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [build directory] +``` + +Với CMake, bạn vẫn sẽ cần thêm `find_package` và những lệnh khác để sử dụng thư viện. +Hãy xem [phần CMake](#sử-dụng-vcpkg-với-cmake) để biết thêm +về các tốt nhất để sử dụng vcpkg với CMake, +và Công cụ CMake cho VSCode. + +## Cài đặt Developer Tools cho Linux + +Dưới nhiều phiên bản Linux, có các package sau đây bạn sẽ cần phải cài đặt: + +- Debian, Ubuntu, popOS, và các phiên bản khác dựa trên Debian: + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +Cho bất kỳ phiên bản nào khác, hãy chắc chắn rằng bạn cài đặt g++ 6 trở lên. +Nếu bạn muốn thêm hướng dẫn cho phiên bản của bạn, +[xin hãy mở một PR][contributing:submit-pr]! + +## Cài đặt Developer Tools cho macOS + +Trên macOS, thứ duy nhất bạn cần làm là chạy lệnh sau đây trong terminal: + +```sh +$ xcode-select --install +``` + +Sau đó làm theo hướng dẫn trong cửa sổ được mở ra. + +Sau đó bạn sẽ có thể khởi động vcpkg theo hướng dẫn ở [bắt đầu nhanh](#bắt-đầu-nhanh-unix) + +## Sử dụng vcpkg với CMake + +### Visual Studio Code với Công cụ CMake + +Thêm phần sau đây vào file `settings.json` trong workspace của bạn +sẽ làm cho Công cụ CMake tự động sử dụng vcpkg cho các thư viện +của bạn: + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +### Vcpkg với Visual Studio CMake Projects + +Mở CMake Settings Editor, dưới phần `CMake toolchain file`, +thêm đường dẫn tới file vcpkg toolchain: + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### Vcpkg với CLion + +Mở Toolchains settings +(File > Settings on Windows and Linux, CLion > Preferences on macOS), +và đi tới phần CMake settings (Build, Execution, Deployment > CMake). +Sau đó, trong `CMake options`, thên dòng sau đây: + +``` +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +Bạn phải thêm dòng này vào mỗi profile khác nhau. + +### Vcpkg dưới dạng Submodule + +Khi sử dụng vcpkg như một submodule cho project của bạn, +bạn có thể thêm dòng sau đây vào file CMakeLists.txt trước dòng `project()` đầu tiên, +thay vì phải sự dụng lệnh `CMAKE_TOOLCHAIN_FILE`. + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +Cách này vẫn hỗ trợ những người không dùng vcpkg, +bằng cách trực tiếp thêm `CMAKE_TOOLCHAIN_FILE`, +nhưng nó sẽ khiến việc cấu hình-build trở nên dễ dàng hơn. + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #cài-đặt-developer-tools-cho-linux +[getting-started:macos-dev-tools]: #cài-đặt-developer-tools-cho-macos +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ + +# Gợi ý/Tự động điền + +`vcpkg` hỗ trợ tự động điền các lệnh, tên package, và các +cài đặt trong lẫn powershell và bash. +Để bật tự động điền trong shell của bạn, hãy chạy: + +```pwsh +> .\vcpkg integrate powershell +``` + +Hoặc + +```sh +$ ./vcpkg integrate bash # or zsh +``` + +tùy theo shell mà bạn sử dụng, rồi khởi động lại console. + +# Các ví dụ + +Hãy xem [tài liệu](https://learn.microsoft.com/vcpkg) cho các hướng dẫn chi tiết, +bao gồm [cài đặt và sử dụng một package](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[thêm package mới từ file zip](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles), +và [thêm package mới từ GitHub repo](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos). + +Tài liệu của chúng tôi hiện đang có sẵn tại website https://vcpkg.io/. Chúng tôi rất trân trọng +bất kỳ phản hồi nào của các bạn! Bạn có thể tạo một issue trong https://github.com/vcpkg/vcpkg.github.io/issues. + +Xem [video demo](https://www.youtube.com/watch?v=y41WFKbQFTw) dài 4 phút. + +# Đóng Góp + +Vcpkg là một dự án mã nguồn mở, và được xây dụng từ sự đóng góp của các bạn. +Sau đây là các cách mà bạn có thể đóng góp: + +* [Tạo Issues][contributing:submit-issue] về vcpkg hoặc các package. +* [Sửa lỗi và Thêm các package mới][contributing:submit-pr] + +Xin hãy xem chi tiết trong [Hướng dẫn Đóng góp](CONTRIBUTING.md). + +Dự án này áp dụng [Bộ Quy tắc Ứng xử Mã Nguồn Mở của Microsoft][contributing:coc]. +Các thông tin thêm, hãy xem [Quy tắc Ứng xử FAQ][contributing:coc-faq] +hoặc gửi mail cho chúng tôi tại [opencode@microsoft.com](mailto:opencode@microsoft.com) +với các câu hỏi hoặc bình luận. + +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# Giấy Phép + +Mã nguồn trong repository này được cấp phép theo [Giấy phép MIT](LICENSE.txt). Các thư viện +cung cấp bởi các port được cấp phép theo các điều khoản của tác giả gốc. Khi khả thi, vcpkg +đặt (các) giấy phép liên quan tại `installed//share//copyright`. + +# Bảo Mật + +Hầu hết các port đều build các thư viện liên quan sử dụng các hệ thống build gốc được khuyến cáo +bởi tác giả gốc của các thư viện đó, và tải mã nguồn và công cụ build từ nguồn chính thức của họ. +Để sử dụng dưới tường lửa, các quyền truy cập nhất định sẽ dựa vào port nào đang được cài đặt. +Nếu bạn buộc phải cài đặt trong một môi trường "cách ly không khí", xin hãy cân nhắc việc cài đặt +một lần trong môi trường không "cách ly không khí", để tạo [asset cache](https://learn.microsoft.com/vcpkg/users/assetcaching) được chia sẻ với môi trường "cách ly không khí" kia. + +# Thu Thập Dữ Liệu + +vcpkg thu thập dữ liệu trong lúc sử dụng để giúp chúng tôi cải thiện trải nghiệm của bạn. +Dữ liệu thu thập được bởi Microsoft là ẩn danh. +Bạn có thể tùy chọn không thu thập dữ liệu bằng cách +- chạy bootstrap-vcpkg với lệnh -disableMetrics +- chạy vcpkg với lệnh --disable-metrics +- thêm VCPKG_DISABLE_METRICS vào biến môi trường + +Đọc thêm về việc thu thập dữ liệu của vcpkg tại [https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy). diff --git a/cc-multilingual-main/cc_net/vcpkg/README_zh_CN.md b/cc-multilingual-main/cc_net/vcpkg/README_zh_CN.md new file mode 100644 index 0000000000000000000000000000000000000000..642661a7c3fd1bd9c80e5f592de92e7c4048909b --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/README_zh_CN.md @@ -0,0 +1,314 @@ +# Vcpkg: 总览 + +[English Overview](README.md) + +Vcpkg 可帮助您在 Windows、 Linux 和 MacOS 上管理 C 和 C++ 库。 +这个工具和生态链正在不断发展,我们一直期待您的贡献! + +若您从未使用过 vcpkg,或者您正在尝试了解如何使用 vcpkg,请查阅 [入门](#入门) 章节。 + +如需获取有关可用命令的简短描述,请在编译 vcpkg 后执行 `vcpkg help` 或执行 `vcpkg help [command]` 来获取具体的帮助信息。 + +* GitHub: 端口位于 [https://github.com/microsoft/vcpkg](https://github.com/microsoft/vcpkg),程序位于 [https://github.com/microsoft/vcpkg-tool](https://github.com/microsoft/vcpkg-tool) +* Slack: [https://cppalliance.org/slack/](https://cppalliance.org/slack/), #vcpkg 频道 +* Discord: [\#include \](https://www.includecpp.org), #🌏vcpkg 频道 +* 文档: [Documentation](https://learn.microsoft.com/vcpkg) + +# 目录 + +- [Vcpkg: 总览](#vcpkg-总览) +- [目录](#目录) +- [入门](#入门) + - [快速开始: Windows](#快速开始-windows) + - [快速开始: Unix](#快速开始-unix) + - [安装 Linux Developer Tools](#安装-linux-developer-tools) + - [安装 macOS Developer Tools](#安装-macos-developer-tools) + - [在 CMake 中使用 vcpkg](#在-cmake-中使用-vcpkg) + - [Visual Studio Code 中的 CMake Tools](#visual-studio-code-中的-cmake-tools) + - [Visual Studio CMake 工程中使用 vcpkg](#visual-studio-cmake-工程中使用-vcpkg) + - [CLion 中使用 vcpkg](#clion-中使用-vcpkg) + - [将 vcpkg 作为一个子模块](#将-vcpkg-作为一个子模块) +- [Tab补全/自动补全](#tab-补全自动补全) +- [示例](#示例) +- [贡献](#贡献) +- [开源协议](#开源协议) +- [安全事项](#安全事项) +- [数据收集](#数据收集) + +# 入门 + +首先,请阅读以下任一快速入门指南: +[Windows](#快速开始-windows) 或 [macOS 和 Linux](#快速开始-unix), +这取决于您使用的是什么平台。 + +更多有关信息,请参见 [安装和使用软件包][getting-started:using-a-package]。 +如果 vcpkg 目录中没有您需要的库, +您可以 [在 GitHub 上打开问题][contributing:submit-issue]。 +vcpkg 团队和贡献者可以在这里看到它, +并可能将这个库添加到 vcpkg。 + +安装并运行 vcpkg 后, +您可能希望将 [TAB 补全](#tab-补全自动补全) 添加到您的 Shell 中。 + +## 快速开始: Windows + +前置条件: +- Windows 7 或更新的版本 +- [Git][getting-started:git] +- [Visual Studio][getting-started:visual-studio] 2015 Update 3 或更新的版本(**包含英文语言包**) + +首先,**请使用 `git clone vcpkg`** 并执行 bootstrap.bat 脚本。 +您可以将 vcpkg 安装在任何地方,但是通常我们建议您使用 vcpkg 作为 CMake 项目的子模块,并将其全局安装到 Visual Studio 项目中。 +我们建议您使用例如 `C:\src\vcpkg` 或 `C:\dev\vcpkg` 的安装目录,否则您可能遇到某些库构建系统的路径问题。 + +```cmd +> git clone https://github.com/microsoft/vcpkg +> .\vcpkg\bootstrap-vcpkg.bat +``` + +使用以下命令安装您的项目所需要的库: + +```cmd +> .\vcpkg\vcpkg install [packages to install] +``` + +请注意: vcpkg 在 Windows 中默认编译并安装 x86 版本的库。 若要编译并安装 x64 版本,请执行: + +```cmd +> .\vcpkg\vcpkg install [package name]:x64-windows +``` + +或 + +```cmd +> .\vcpkg\vcpkg install [packages to install] --triplet=x64-windows +``` + +您也可以使用 `search` 子命令来查找 vcpkg 中集成的库: + +```cmd +> .\vcpkg\vcpkg search [search term] +``` + +若您希望在 Visual Studio 中使用 vcpkg,请运行以下命令 (可能需要管理员权限) + +```cmd +> .\vcpkg\vcpkg integrate install +``` + +在此之后,您可以创建一个非 CMake 项目 (或打开已有的项目)。 +在您的项目中,所有已安装的库均可立即使用 `#include` 包含您需使用的库的头文件且无需额外配置。 + +若您在 Visual Studio 中使用 CMake 工程,请查阅[这里](#visual-studio-cmake-工程中使用-vcpkg)。 + +为了在 IDE 以外在 CMake 中使用 vcpkg,您需要使用以下工具链文件: + +```cmd +> cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +> cmake --build [build directory] +``` + +在 CMake 中,您仍需通过 `find_package` 来使用 vcpkg 中已安装的库。 +请查阅 [CMake 章节](#在-cmake-中使用-vcpkg) 获取更多信息,其中包含了在 IDE 中使用 CMake 的内容。 + +## 快速开始: Unix + +Linux平台前置条件: +- [Git][getting-started:git] +- [g++][getting-started:linux-gcc] >= 6 + +macOS 平台前置条件: +- [Apple Developer Tools][getting-started:macos-dev-tools] + +首先,请下载 vcpkg 并执行 bootstrap.sh 脚本。 +您可以将 vcpkg 安装在任何地方,但是通常我们建议您使用 vcpkg 作为 CMake 项目的子模块。 + +```sh +$ git clone https://github.com/microsoft/vcpkg +$ ./vcpkg/bootstrap-vcpkg.sh +``` + +使用以下命令安装任意包: + +```sh +$ ./vcpkg/vcpkg install [packages to install] +``` + +您也可以使用 `search` 子命令来查找 vcpkg 中已集成的库: + +```sh +$ ./vcpkg/vcpkg search [search term] +``` + +为了在 CMake 中使用 vcpkg,您需要使用以下工具链文件: + +```sh +$ cmake -B [build directory] -S . "-DCMAKE_TOOLCHAIN_FILE=[path to vcpkg]/scripts/buildsystems/vcpkg.cmake" +$ cmake --build [build directory] +``` + +在 CMake 中,您仍需通过 `find_package` 来使用 vcpkg 中已安装的库。 +为了您更好的在 CMake 或 VSCode CMake Tools 中使用 vcpkg, +请查阅 [CMake 章节](#在-cmake-中使用-vcpkg) 获取更多信息, +其中包含了在 IDE 中使用 CMake 的内容。 + +对于其他工具,请查阅 [集成指南][getting-started:integration]。 + +## 安装 Linux Developer Tools + +在 Linux 的不同发行版中,您需要安装不同的工具包: + +- Debian,Ubuntu,popOS 或其他基于 Debian 的发行版: + +```sh +$ sudo apt-get update +$ sudo apt-get install build-essential tar curl zip unzip +``` + +- CentOS + +```sh +$ sudo yum install centos-release-scl +$ sudo yum install devtoolset-7 +$ scl enable devtoolset-7 bash +``` + +对于其他的发行版,请确保已安装 g++ 6 或更新的版本。 +若您希望添加特定发行版的说明,[请提交一个 PR][contributing:submit-pr]! + +## 安装 macOS Developer Tools + +在 macOS 中,您唯一需要做的是在终端中运行以下命令: + +```sh +$ xcode-select --install +``` + +然后按照出现的窗口中的提示进行操作。 +此时,您就可以使用 bootstrap.sh 编译 vcpkg 了。 请参阅 [快速开始](#快速开始-unix) + +## 在 CMake 中使用 vcpkg + +### Visual Studio Code 中的 CMake Tools + +将以下内容添加到您的工作区的 `settings.json` 中将使 CMake Tools 自动使用 vcpkg 中的第三方库: + +```json +{ + "cmake.configureSettings": { + "CMAKE_TOOLCHAIN_FILE": "[vcpkg root]/scripts/buildsystems/vcpkg.cmake" + } +} +``` + +### Visual Studio CMake 工程中使用 vcpkg + +打开 CMake 设置选项,将 vcpkg toolchain 文件路径在 `CMake toolchain file` 中: + +``` +[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +### CLion 中使用 vcpkg + +打开 Toolchains 设置 +(File > Settings on Windows and Linux, CLion > Preferences on macOS), +并打开 CMake 设置 (Build, Execution, Deployment > CMake)。 +最后在 `CMake options` 中添加以下行: + +``` +-DCMAKE_TOOLCHAIN_FILE=[vcpkg root]/scripts/buildsystems/vcpkg.cmake +``` + +您必须手动将此选项加入每个项目配置文件中。 + +### 将 vcpkg 作为一个子模块 + +当您希望将 vcpkg 作为一个子模块加入到您的工程中时, +您可以在第一个 `project()` 调用之前将以下内容添加到 CMakeLists.txt 中, +而无需将 `CMAKE_TOOLCHAIN_FILE` 传递给 CMake 调用。 + +```cmake +set(CMAKE_TOOLCHAIN_FILE "${CMAKE_CURRENT_SOURCE_DIR}/vcpkg/scripts/buildsystems/vcpkg.cmake" + CACHE STRING "Vcpkg toolchain file") +``` + +使用此种方式可无需设置 `CMAKE_TOOLCHAIN_FILE` 即可使用 vcpkg,且更容易完成配置工作。 + +[getting-started:using-a-package]: https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages +[getting-started:git]: https://git-scm.com/downloads +[getting-started:cmake-tools]: https://marketplace.visualstudio.com/items?itemName=ms-vscode.cmake-tools +[getting-started:linux-gcc]: #installing-linux-developer-tools +[getting-started:macos-dev-tools]: #installing-macos-developer-tools +[getting-started:macos-brew]: #installing-gcc-on-macos +[getting-started:macos-gcc]: #installing-gcc-on-macos +[getting-started:visual-studio]: https://visualstudio.microsoft.com/ + +# Tab 补全/自动补全 + +`vcpkg` 支持在 Powershell 和 Bash 中自动补全命令,包名称及选项。 +若您需要在指定的 shell 中启用 Tab 补全功能,请依据您使用的 shell 运行: + +```pwsh +> .\vcpkg integrate powershell +``` + +或 + +```sh +$ ./vcpkg integrate bash # 或 zsh +``` + +然后重新启动控制台。 + +# 示例 + +请查看 [文档](https://learn.microsoft.com/vcpkg) 获取具体示例, +其包含 [安装并使用包](https://learn.microsoft.com/vcpkg/examples/installing-and-using-packages), +[使用压缩文件添加包](https://learn.microsoft.com/vcpkg/examples/packaging-zipfiles) +和 [从 GitHub 源中添加一个包](https://learn.microsoft.com/vcpkg/examples/packaging-github-repos)。 + +我们的文档现在也可以从 [vcpkg.io](https://vcpkg.io/) 在线获取。 +我们真诚的希望您向我们提出关于此网站的任何建议! 请在[这里](https://github.com/vcpkg/vcpkg.github.io/issues) 创建 issue. + +观看 4 分钟 [demo 视频](https://www.youtube.com/watch?v=y41WFKbQFTw)。 + +# 贡献 + +Vcpkg是一个开源项目,并通过您的贡献不断发展。 +下面是一些您可以贡献的方式: + +* [提交一个关于 vcpkg 或已支持包的新 issue][contributing:submit-issue] +* [提交修复 PR 和创建新包][contributing:submit-pr] + +请参阅我们的 [贡献准则](CONTRIBUTING_zh.md) 了解更多详细信息。 + +该项目采用了 [Microsoft 开源行为准则][contributing:coc]。 +获取更多信息请查看 [行为准则 FAQ][contributing:coc-faq] 或联系 [opencode@microsoft.com](mailto:opencode@microsoft.com) 提出其他问题或意见。 + +[contributing:submit-issue]: https://github.com/microsoft/vcpkg/issues/new/choose +[contributing:submit-pr]: https://github.com/microsoft/vcpkg/pulls +[contributing:coc]: https://opensource.microsoft.com/codeofconduct/ +[contributing:coc-faq]: https://opensource.microsoft.com/codeofconduct/ + +# 开源协议 + +在此存储库中使用的代码均遵循 [MIT License](LICENSE.txt)。这些库是根据其作者的开源协议受到许可的。 +vcpkg会将库的协议文件放置在 `installed//share//copyright` 中。 + +# 安全事项 + +大多数vcpkg中的库采用其官方发布的构建工具来构建它们,并从其官方渠道下载源码及构建工具。 +若您的环境包含防火墙或反病毒程序,为了避免构建失败,请考虑在禁用防火墙与反病毒程序的环境中构建它们一次, +再将它们生成的[二进制缓存](https://learn.microsoft.com/vcpkg/users/assetcaching)共享给原始环境中使用。 + +# 数据收集 + +vcpkg 会收集使用情况数据,以帮助我们改善您的体验。 +Microsoft 收集的数据是匿名的。 +您也可以通过以下步骤禁用数据收集: +- 将选项 `-disableMetrics` 传递给 bootstrap-vcpkg 脚本并重新运行此脚本 +- 向 vcpkg 命令传递选项 `--disable-metrics` +- 设置环境变量 `VCPKG_DISABLE_METRICS` + +请在 [https://learn.microsoft.com/vcpkg/about/privacy](https://learn.microsoft.com/vcpkg/about/privacy) 中了解有关 vcpkg 数据收集的更多信息。 diff --git a/cc-multilingual-main/cc_net/vcpkg/SECURITY.md b/cc-multilingual-main/cc_net/vcpkg/SECURITY.md new file mode 100644 index 0000000000000000000000000000000000000000..869fdfe2b246991a053fab9cfec1bed3ab532ab1 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/SECURITY.md @@ -0,0 +1,41 @@ + + +## Security + +Microsoft takes the security of our software products and services seriously, which includes all source code repositories managed through our GitHub organizations, which include [Microsoft](https://github.com/Microsoft), [Azure](https://github.com/Azure), [DotNet](https://github.com/dotnet), [AspNet](https://github.com/aspnet), [Xamarin](https://github.com/xamarin), and [our GitHub organizations](https://opensource.microsoft.com/). + +If you believe you have found a security vulnerability in any Microsoft-owned repository that meets [Microsoft's definition of a security vulnerability](https://aka.ms/opensource/security/definition), please report it to us as described below. + +## Reporting Security Issues + +**Please do not report security vulnerabilities through public GitHub issues.** + +Instead, please report them to the Microsoft Security Response Center (MSRC) at [https://msrc.microsoft.com/create-report](https://aka.ms/opensource/security/create-report). + +If you prefer to submit without logging in, send email to [secure@microsoft.com](mailto:secure@microsoft.com). If possible, encrypt your message with our PGP key; please download it from the [Microsoft Security Response Center PGP Key page](https://aka.ms/opensource/security/pgpkey). + +You should receive a response within 24 hours. If for some reason you do not, please follow up via email to ensure we received your original message. Additional information can be found at [microsoft.com/msrc](https://aka.ms/opensource/security/msrc). + +Please include the requested information listed below (as much as you can provide) to help us better understand the nature and scope of the possible issue: + + * Type of issue (e.g. buffer overflow, SQL injection, cross-site scripting, etc.) + * Full paths of source file(s) related to the manifestation of the issue + * The location of the affected source code (tag/branch/commit or direct URL) + * Any special configuration required to reproduce the issue + * Step-by-step instructions to reproduce the issue + * Proof-of-concept or exploit code (if possible) + * Impact of the issue, including how an attacker might exploit the issue + +This information will help us triage your report more quickly. + +If you are reporting for a bug bounty, more complete reports can contribute to a higher bounty award. Please visit our [Microsoft Bug Bounty Program](https://aka.ms/opensource/security/bounty) page for more details about our active programs. + +## Preferred Languages + +We prefer all communications to be in English. + +## Policy + +Microsoft follows the principle of [Coordinated Vulnerability Disclosure](https://aka.ms/opensource/security/cvd). + + diff --git a/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.bat b/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.bat new file mode 100644 index 0000000000000000000000000000000000000000..54e0b85a225030ab1a9e0096cdb6f637ee84c326 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.bat @@ -0,0 +1,2 @@ +@echo off +powershell.exe -NoProfile -ExecutionPolicy Bypass "& {& \"%~dp0scripts\bootstrap.ps1\" %*}" diff --git a/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.sh b/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.sh new file mode 100644 index 0000000000000000000000000000000000000000..7165a725fd719883b614e6e90a95179dcd5a1817 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/bootstrap-vcpkg.sh @@ -0,0 +1,4 @@ +#!/bin/sh -e + +vcpkgRootDir=$(X= cd -- "$(dirname -- "$0")" && pwd -P) +. "$vcpkgRootDir/scripts/bootstrap.sh" diff --git a/cc-multilingual-main/cc_net/vcpkg/shell.nix b/cc-multilingual-main/cc_net/vcpkg/shell.nix new file mode 100644 index 0000000000000000000000000000000000000000..accea1a0d14deac01e03bd942bf04bd78c26c8f0 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/shell.nix @@ -0,0 +1,46 @@ +{ pkgs ? import {}, withX11 ? false }: + +(pkgs.buildFHSUserEnv { + name = "vcpkg"; + targetPkgs = pkgs: (with pkgs; [ + autoconf + automake + cmake + gcc + gettext + glibc.dev + gperf + libtool + libxkbcommon.dev + m4 + ninja + pkgconfig + zip + zstd.dev + ] ++ pkgs.lib.optionals withX11 [ + freetds + libdrm.dev + libglvnd.dev + mesa_drivers + mesa_glu.dev + mesa.dev + xlibs.libxcb.dev + xlibs.xcbutilimage.dev + xlibs.xcbutilwm.dev + xlibs.xorgserver.dev + xorg.libpthreadstubs + xorg.libX11.dev + xorg.libxcb.dev + xorg.libXext.dev + xorg.libXi.dev + xorg.xcbproto + xorg.xcbutil.dev + xorg.xcbutilcursor.dev + xorg.xcbutilerrors + xorg.xcbutilkeysyms.dev + xorg.xcbutilrenderutil.dev + xorg.xcbutilwm.dev + xorg.xorgproto + ]); + runScript = "bash"; +}).env \ No newline at end of file diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-android.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-android.cmake new file mode 100644 index 0000000000000000000000000000000000000000..784f0d39c64a57b4a7cf5618fadac1b8d03eff42 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-android.cmake @@ -0,0 +1,6 @@ +set(VCPKG_TARGET_ARCHITECTURE arm64) +set(VCPKG_CRT_LINKAGE static) +set(VCPKG_LIBRARY_LINKAGE static) +set(VCPKG_CMAKE_SYSTEM_NAME Android) +set(VCPKG_MAKE_BUILD_TRIPLET "--host=aarch64-linux-android") +set(VCPKG_CMAKE_CONFIGURE_OPTIONS -DANDROID_ABI=arm64-v8a) diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-osx.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-osx.cmake new file mode 100644 index 0000000000000000000000000000000000000000..62325a696759f3948b8a248a199d2a8924a92bb9 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-osx.cmake @@ -0,0 +1,6 @@ +set(VCPKG_TARGET_ARCHITECTURE arm64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE static) + +set(VCPKG_CMAKE_SYSTEM_NAME Darwin) +set(VCPKG_OSX_ARCHITECTURES arm64) diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-uwp.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-uwp.cmake new file mode 100644 index 0000000000000000000000000000000000000000..b37c34e87306b116d6436806d545f8602149ac34 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-uwp.cmake @@ -0,0 +1,6 @@ +set(VCPKG_TARGET_ARCHITECTURE arm64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE dynamic) + +set(VCPKG_CMAKE_SYSTEM_NAME WindowsStore) +set(VCPKG_CMAKE_SYSTEM_VERSION 10.0) diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-windows.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-windows.cmake new file mode 100644 index 0000000000000000000000000000000000000000..8769e975d3f820442330f1266294bfb8ba8f01b8 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/arm64-windows.cmake @@ -0,0 +1,3 @@ +set(VCPKG_TARGET_ARCHITECTURE arm64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE dynamic) diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/x64-android.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-android.cmake new file mode 100644 index 0000000000000000000000000000000000000000..28404f4ed7bc2940449457083ff92b788801f354 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-android.cmake @@ -0,0 +1,6 @@ +set(VCPKG_TARGET_ARCHITECTURE x64) +set(VCPKG_CRT_LINKAGE static) +set(VCPKG_LIBRARY_LINKAGE static) +set(VCPKG_CMAKE_SYSTEM_NAME Android) +set(VCPKG_MAKE_BUILD_TRIPLET "--host=x86_64-linux-android") +set(VCPKG_CMAKE_CONFIGURE_OPTIONS -DANDROID_ABI=x86_64) diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/x64-linux.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-linux.cmake new file mode 100644 index 0000000000000000000000000000000000000000..88221345605fd9b663347e50f8295cfa709ca8e1 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-linux.cmake @@ -0,0 +1,6 @@ +set(VCPKG_TARGET_ARCHITECTURE x64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE static) + +set(VCPKG_CMAKE_SYSTEM_NAME Linux) + diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/x64-osx.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-osx.cmake new file mode 100644 index 0000000000000000000000000000000000000000..3867590dfd89e58066f642ccec41239d0015e73a --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-osx.cmake @@ -0,0 +1,7 @@ +set(VCPKG_TARGET_ARCHITECTURE x64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE static) + +set(VCPKG_CMAKE_SYSTEM_NAME Darwin) +set(VCPKG_OSX_ARCHITECTURES x86_64) + diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/x64-uwp.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-uwp.cmake new file mode 100644 index 0000000000000000000000000000000000000000..902d8c238382c12ac95e8f670ac5667777bd0629 --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-uwp.cmake @@ -0,0 +1,7 @@ +set(VCPKG_TARGET_ARCHITECTURE x64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE dynamic) + +set(VCPKG_CMAKE_SYSTEM_NAME WindowsStore) +set(VCPKG_CMAKE_SYSTEM_VERSION 10.0) + diff --git a/cc-multilingual-main/cc_net/vcpkg/triplets/x64-windows.cmake b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-windows.cmake new file mode 100644 index 0000000000000000000000000000000000000000..d0be7297f0c46862702fd29f92a76a765da00c0a --- /dev/null +++ b/cc-multilingual-main/cc_net/vcpkg/triplets/x64-windows.cmake @@ -0,0 +1,4 @@ +set(VCPKG_TARGET_ARCHITECTURE x64) +set(VCPKG_CRT_LINKAGE dynamic) +set(VCPKG_LIBRARY_LINKAGE dynamic) + diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/__init__.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/downloaders/books_downloader.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/downloaders/books_downloader.py new file mode 100644 index 0000000000000000000000000000000000000000..93b01b4abda67905696f1db9060fefd7f8382507 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/downloaders/books_downloader.py @@ -0,0 +1,105 @@ +from datasets import load_dataset +from pathlib import Path +import random +from tqdm import tqdm + +from utilities.io import Writer +from utilities.text.util import generate_paragraphs + + +class BooksDownloader: + r""" Loads the RedPajama Books dataset from HuggingFace Datasets and saves + it to disk """ + + dataset_name = "books" + output_fp = "books/en-books.jsonl.gz" + + def __init__( + self, lang, out_dir, overwrite, cache_dir, max_samples, + max_paragraphs_per_sample=200, max_samples_per_book=500 + ): + self._lang = lang + self._out_dir = out_dir + self._overwrite = overwrite + self._cache_dir = cache_dir + self._max_samples = max_samples + self._max_paragraphs_per_sample = max_paragraphs_per_sample + self._max_samples_per_book = max_samples_per_book + self._filepath = None + + def __str__(self): + return f"{self.__class__.__name__}(lang={self._lang})" + + @property + def filepath(self): + return self._filepath + + def __generate_chunks(self, text: str): + if self._max_paragraphs_per_sample is None: + yield text + return + + n_samples = 0 + buffer = [] + buffer_size = random.randint(1, self._max_paragraphs_per_sample) + for par in generate_paragraphs(text): + buffer.append(par) + if len(buffer) >= buffer_size: + yield "\n".join(buffer) + + buffer_size = random.randint( + 1, self._max_paragraphs_per_sample + ) + buffer = [] + n_samples += 1 + + if n_samples >= self._max_samples_per_book > 0: + break + + def run(self, logger): + if self._lang != "en": + logger.info(f"{str(self)} Skipping {self._lang}") + return + + self._filepath = Path(self._out_dir) / self.output_fp + logger.info(f"{str(self)} Output file: {self._filepath}") + logger.info(f"{str(self)} max_samples: {self._max_samples}") + + if self._filepath.exists(): + if not self._overwrite: + raise FileExistsError(f"File {self._filepath} already exists.") + else: + self._filepath.unlink() + logger.info(f"{str(self)} Deleted {self._filepath}") + + out_uri = "file://" + str(self._filepath) + writer = Writer(uri=out_uri, schema=[("text", str)]) + + logger.info(f"{str(self)} Download start.") + pbar = tqdm(desc="writing progress", total=self._max_samples) + flush_every = 5_000 + + n_docs = 0 + for book in load_dataset( + "togethercomputer/RedPajama-Data-1T", name="book", + cache_dir=self._cache_dir, + split="train", streaming=True + ): + for chunk in self.__generate_chunks(book["text"]): + n_docs += 1 + if n_docs > self._max_samples > 0: + break + + writer.write( + data_obj={"text": chunk}, + flush=n_docs % flush_every == 0 + ) + pbar.update(1) + + else: + continue + break + + pbar.close() + writer.close() + logger.info(f"{str(self)} Download finished; num_samples={n_docs - 1}") diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/ft_trainer.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/ft_trainer.py new file mode 100644 index 0000000000000000000000000000000000000000..d06243e5e944e673c8f7410e605381bff07da993 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/ft_trainer.py @@ -0,0 +1,107 @@ +from pathlib import Path +from tqdm import tqdm +import fasttext +import subprocess + +from core.document import Document +from core.quality_signals.utils.classifiers import \ + preprocess_quality_classifier +from core.constants import CCNET_LABEL +from utilities.io import Reader + + +class FastTextTrainer: + # cc label + cc_label = CCNET_LABEL + + # output file naming convention + output_fmt = "{dataset}.model.bin" + + def __init__( + self, artifacts_dir, ccnet_data, target_data, target_name, + samples_per_class, lang + ): + + # write args to class variables + self._ccnet_data = ccnet_data + self._target_data = target_data + self._samples_per_class = samples_per_class + self._lang = lang + self._target_label = f"__label__{target_name}" + + # build output directory + out_dir = Path(artifacts_dir) / "classifiers" / self._lang + out_dir.mkdir(parents=True, exist_ok=True) + self._output = out_dir / self.output_fmt.format(dataset=target_name) + self._train_data = out_dir / f"{target_name}.data.train" + + def run(self, logger): + log_prefix = f"{self.__class__.__name__}(" \ + f"lang={self._lang}, ccdata={self._ccnet_data}, " \ + f"target_data={self._target_data}, " \ + f"target_label={self._target_label})" + + train_data_fh = open(self._train_data, "w") + + logger.info(f"{log_prefix} Start building fasttext classifier") + + # write target data + samples_per_slice = self._samples_per_class // len(self._target_data) + total_target_samples = 0 + + for target_data_fp in self._target_data: + reader = Reader(schema=[("text", str)]) + total_target_samples += self.__write_train_chunk( + uri="file://" + str(target_data_fp), + reader=reader, + writer=train_data_fh, + max_samples=samples_per_slice, + target_label=self._target_label + ) + + logger.info(f"{log_prefix} Number of target " + f"samples found: {total_target_samples}") + + # write ccnet data + reader = Reader(schema=[("text", str)]) + ccnet_samples = self.__write_train_chunk( + uri="file://" + str(self._ccnet_data), + reader=reader, + writer=train_data_fh, + max_samples=total_target_samples, + target_label=self.cc_label + ) + train_data_fh.close() + logger.info(f"{log_prefix} Total ccnet samples: {ccnet_samples}") + + # shuffle train data + logger.info(f"{log_prefix} Shuffling train data") + subprocess.run( + ["shuf", "-o", str(self._train_data), str(self._train_data)] + ) + + # train fasttext classifier + model = fasttext.train_supervised( + input=str(self._train_data), verbose=2 + ) + model.save_model(str(self._output)) + logger.info(f"{log_prefix} Saved model to {self._output}") + + @staticmethod + def __write_train_chunk( + uri, reader: Reader, writer, max_samples, target_label + ): + num_samples = 0 + + for record in tqdm( + reader.read(uri, max_samples=max_samples, return_idx=False), + total=max_samples + ): + doc = Document(record.text, domain=None) + text = preprocess_quality_classifier(document=doc) + writer.write(f"{target_label} {text}\n") + num_samples += 1 + + writer.flush() + + return num_samples diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/hash_dist.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/hash_dist.py new file mode 100644 index 0000000000000000000000000000000000000000..c77fe741879e959b520678786554cbdb9665deb3 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/hash_dist.py @@ -0,0 +1,107 @@ +import functools +import multiprocessing as mp +from multiprocessing.pool import Pool +import numpy as np +from pathlib import Path +from tqdm import tqdm + +from core.document import Document +from utilities.io import Reader + + +def _compute_hash_features(text: str, buckets: int): + r""" Compute the hash features for a given text """ + # compute hash features directly in the document class + # for consistency + document = Document( + content=text, domain=None, precompute_ngrams=False, + precompute_hash_features=True, dsir_buckets=buckets + ) + return document.hash_features, document.num_raw_words + + +class HashDist: + # output file naming convention + output_file_fmt_counts = "{dataset}.{lang}.{buckets}.counts.npy" + output_file_fmt_lambda = "{dataset}.{lang}.lambda.npy" + + def __init__( + self, artifacts_dir, num_samples, buckets, max_workers, logger + ): + self._artifacts_dir = artifacts_dir + self._num_samples = num_samples + self._buckets = buckets + self._max_workers = max_workers + self._logger = logger + + def run(self, lang, datafile, dataset): + log_prefix = f"{self.__class__.__name__}(" \ + f"lang={lang}, datafile={datafile}, dataset={dataset})" + datafile = str(Path(datafile).absolute()) + + out_dir = Path(self._artifacts_dir) / "dsir" / f"{lang}" + out_dir.mkdir(parents=True, exist_ok=True) + out_fp_dist = out_dir / self.output_file_fmt_counts.format( + dataset=dataset, lang=lang, buckets=self._buckets + ) + out_fp_lambda = out_dir / self.output_file_fmt_lambda.format( + dataset=dataset, lang=lang + ) + self._logger.info( + f"{log_prefix} Start dsir computation for {lang}-{dataset}" + ) + self._logger.info(f"{log_prefix} Reading data from {datafile}") + self._logger.info(f"{log_prefix} Write distribution to {out_fp_dist}") + self._logger.info(f"{log_prefix} Write lambda to {out_fp_lambda}") + + if self._max_workers is not None: + if self._max_workers < 0: + raise ValueError("max_workers must be >= 0") + max_proc = min(self._max_workers, mp.cpu_count() - 1) + else: + max_proc = mp.cpu_count() - 1 + + self._logger.info(f"{log_prefix} Using {max_proc} processes") + reader = Reader(schema=[("text", str)]) + + def _wrap_reader(): + r""" wrap reader so that it can be used with multiprocessing. + Otherwise, pickling of records fails. """ + for record in reader.read( + uri="file://" + datafile, + max_samples=self._num_samples, + return_idx=False + ): + yield record.text + + global_dist = np.zeros(self._buckets, dtype=np.int64) + + # MLE estimator for lambda of Poisson distribution + lambda_mle = 0 + num_samples = 0 + + with Pool(max_proc) as pool: + for dist, dlen in tqdm( + pool.imap_unordered( + functools.partial( + _compute_hash_features, + buckets=self._buckets + ), + _wrap_reader() + ), + total=self._num_samples, + desc=f"Reading {datafile}" + ): + global_dist += dist + lambda_mle += dlen + num_samples += 1 + + # save lambda + np.save(file=str(out_fp_lambda), arr=lambda_mle / num_samples) + self._logger.info(f"{log_prefix} Saved lambda to {out_fp_lambda}") + + # save distribution + np.save(file=str(out_fp_dist), arr=global_dist) + self._logger.info(f"{log_prefix} Saved distribution to {out_fp_dist}") + + self._logger.info(f"{log_prefix} Finished dsir for {lang}-{dataset}.") diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/update_resources.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/update_resources.py new file mode 100644 index 0000000000000000000000000000000000000000..755bf77fc38025f41757f1afa4d1a3ce3eee39b3 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/update_resources.py @@ -0,0 +1,166 @@ +import argparse +from collections import defaultdict +import itertools +import json +from pathlib import Path +import time +import urllib.request +import requests +import tarfile +from typing import Dict, List, Tuple + +_UT1_BLACKLIST_URL = "http://dsi.ut-capitole.fr" \ + "/blacklists/download/blacklists.tar.gz" +_LDNOOBW_URL = "https://raw.githubusercontent.com/LDNOOBW/List-of-Dirty-" \ + "Naughty-Obscene-and-Otherwise-Bad-Words/master/{lang}" + + +def _build_category_index(raw_categories) -> Dict[Tuple[str], int]: + r""" Build a mapping with a list of categories, corresponding to a unique + combination of categories, to a category ID. + """ + categories = sorted(raw_categories) + + category_index = {} + for i, category in enumerate(itertools.chain.from_iterable( + itertools.combinations(categories, r) for r in + range(1, len(categories) + 1) + )): + category_index[tuple(str(s) for s in sorted(category))] = i + + return category_index + + +def _domain_to_category_list_mapping(bad_urls_dir, raw_categories): + domain_to_category = defaultdict(list) + + for category_dir in (bad_urls_dir / "blacklists").iterdir(): + if not category_dir.is_dir(): + continue + + category = category_dir.name + + if category not in raw_categories: + continue + + with open(category_dir / "domains", "r") as f: + for dom in map(str.strip, f.readlines()): + domain_to_category[dom].append(category) + + # postprocess + domain_to_category = { + dom: tuple(str(s) for s in sorted(set(categories))) + for dom, categories in domain_to_category.items() + } + + return domain_to_category + + +def create_bad_urls_index(artifacts_dir: Path, raw_categories: List[str]): + r""" update the URL blacklists from the University of Toulouse: + + @param artifacts_dir: (Path) The path to the resources directory + @param raw_categories: (List[str]) The domain categories + + """ + + ut1_blacklist_dir = artifacts_dir / "bad_urls" + + if not ut1_blacklist_dir.exists(): + ut1_blacklist_dir.mkdir(parents=True) + + print(f"fetching UT1 blacklist from {_UT1_BLACKLIST_URL}...") + + with urllib.request.urlopen(_UT1_BLACKLIST_URL) as response: + with tarfile.open(fileobj=response, mode="r|gz") as tar: + tar.extractall(path=ut1_blacklist_dir) + + with open(ut1_blacklist_dir / "_FETCH_TIMESTAMP", "w") as f: + f.write(str(int(time.time()))) + + print(f"raw UT1 list fetched.") + + category_index = _build_category_index(raw_categories) + + # convert the raw UT1 blacklist to a domain -> category_id mapping where + # a category corresponds to any combination of raw categories. + domain_to_category_list = _domain_to_category_list_mapping( + ut1_blacklist_dir, raw_categories + ) + + domain_to_category_id = { + dom: category_index[categories] + for dom, categories in domain_to_category_list.items() + } + + with open(ut1_blacklist_dir / "domain_to_category_id.json", "w") as f: + json.dump(domain_to_category_id, f) + + # save the category index as int -> category mapping + category_index = { + i: categories for categories, i in category_index.items() + } + with open(ut1_blacklist_dir / "category_index.json", "w") as f: + json.dump(category_index, f) + + +def create_bad_words_list(artifacts_dir: Path, lang: str): + r""" Fetch the LDNOOBW word list + + Args: + artifacts_dir (Path): The path to the resources directory + lang (str): The language to fetch the word list for + """ + + ldnoobw_dir = artifacts_dir / "bad_words" + + if not ldnoobw_dir.exists(): + ldnoobw_dir.mkdir(parents=True) + + word_list_fp = ldnoobw_dir / f"{lang}.txt" + url = _LDNOOBW_URL.format(lang=lang) + + print(f"fetching bad words list from {url}...") + + response = requests.get(url) + if response.status_code != 200: + raise Exception(f"{response.status_code} -- {url}.") + + data = response.content.decode('utf-8') + + with open(ldnoobw_dir / f"_{lang}_FETCH_TIMESTAMP", "w") as f: + f.write(str(int(time.time()))) + + data = set(w for w in data.splitlines() if w is not None) + + with open(word_list_fp, 'w') as f: + f.write('\n'.join(data)) + + print(f"bad words list ({lang}) updated.") + + +def main(): + parser = argparse.ArgumentParser() + parser.add_argument("--langs", type=str, nargs="+") + parser.add_argument("--artifacts_dir", type=str) + parser.add_argument("--block_categories", type=str, nargs="+") + args = parser.parse_args() + + artifacts_dir = Path(args.artifacts_dir) + artifacts_dir.mkdir(parents=True, exist_ok=True) + + # fetch ut1 blacklist + create_bad_urls_index(artifacts_dir=artifacts_dir, + raw_categories=args.block_categories) + + # fetch ldnoobw + langs = set(args.langs) + for lang in langs: + try: + create_bad_words_list(lang=lang, artifacts_dir=artifacts_dir) + except Exception as e: + print(f"Failed to fetch LDNOOBW {lang}: {e}") + + +if __name__ == '__main__': + main() diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/__init__.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/data_utils.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/data_utils.py new file mode 100644 index 0000000000000000000000000000000000000000..d40041a383cac17d9e0e4101c2d6fa312af57c6a --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/data_utils.py @@ -0,0 +1,33 @@ +import random +import string + +# text normalization: lowercasing and removing punctuation +TRANSLATION_TABLE = str.maketrans( + string.ascii_lowercase + string.ascii_uppercase + "\n", + string.ascii_lowercase * 2 + " ", + string.punctuation +) + + +def normalize_text(text: str, max_words: int = -1): + r""" Normalize text by lowercasing and removing punctuation; if max words + is larger than 0, then a random but contiguous span of max_words is + selected from the text. + + Args: + text: text to normalize + max_words: maximum number of words to keep in text + + Returns: + normalized text + """ + text = text.translate(TRANSLATION_TABLE) + text = text.split() + num_words = len(text) + + # pick a random span inside the text if it is too long + if num_words > max_words > 0: + start = random.randint(0, num_words - max_words) + text = text[start:start + max_words] + + return " ".join(text) diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/logging_utils.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/logging_utils.py new file mode 100644 index 0000000000000000000000000000000000000000..9eaf1ce4b6f66c1d525d543f4a8f3fa3a3ed1124 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/artifacts/utils/logging_utils.py @@ -0,0 +1,41 @@ +import logging +from logging.handlers import QueueHandler +import multiprocessing as mp + +__all__ = [ + "worker_logger_configurer", + "listener_logger_configurer", + "LOG_FMT" +] + +LOG_FMT = '[%(asctime)s]::(PID %(process)d)::%(levelname)-2s::%(message)s' + + +def worker_logger_configurer(queue: mp.Queue, level=logging.DEBUG): + root = logging.getLogger() + + if not root.hasHandlers(): + h = logging.handlers.QueueHandler(queue) + root.addHandler(h) + + root.setLevel(level) + + +def listener_logger_configurer(logfile, level=logging.DEBUG): + root = logging.getLogger() + formatter = logging.Formatter(LOG_FMT) + + # write to log file + if logfile is not None: + if not logfile.parent.exists(): + logfile.parent.mkdir(parents=True) + file_handler = logging.FileHandler(logfile) + file_handler.setFormatter(formatter) + root.addHandler(file_handler) + + # write to stdout + stream_handler = logging.StreamHandler() + stream_handler.setFormatter(formatter) + root.addHandler(stream_handler) + + root.setLevel(level) diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__init__.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..806ce3716f0b0947a34c0b9f425aa8f9923e6ab4 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__init__.py @@ -0,0 +1,2 @@ +from .format import LOG_FMT +from .configure import configure_logger diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c7d7b2086186a899f9cc242e399ce5e551c9009f Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..6254712486cc4b192c8983a4fe3fc3ab9ac012f2 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/__init__.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..46585700a3eed1ba5341e5f0d5c9e16dad0f127c Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..3a7a4dd4e873cc6905e20b27ae7e1410658b0b84 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/configure.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..0225fe3dabc9d888011d633e75e3e23c9b822688 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..0b97089664bd98cb0a115d12e5922283f7d50f5b Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/format.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..f4e87d44abda3233466fac3378f8be69692e7d4c Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..0964719177aae63198c55affc55a6286ecc49d87 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/mp.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..95c95bc00b9a09f7c932f54e5c5c84d8e1183004 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..427f64df13f592a95ed553102afba23a3969fc0b Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/__pycache__/trackers.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/configure.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/configure.py new file mode 100644 index 0000000000000000000000000000000000000000..6db674e968d7a9df7ede3eae7e2354e35fe0d9a8 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/configure.py @@ -0,0 +1,33 @@ +import logging +from pathlib import Path +from typing import Optional + +from .format import LOG_FMT + +__all__ = [ + "configure_logger", +] + + +def configure_logger( + logfile: Optional[Path] = None, level: int = logging.DEBUG, + stream: bool = True +): + root = logging.getLogger() + formatter = logging.Formatter(LOG_FMT) + + # write to log file + if logfile is not None: + if not logfile.parent.exists(): + logfile.parent.mkdir(parents=True) + file_handler = logging.FileHandler(logfile) + file_handler.setFormatter(formatter) + root.addHandler(file_handler) + + # write to stdout + if stream: + stream_handler = logging.StreamHandler() + stream_handler.setFormatter(formatter) + root.addHandler(stream_handler) + + root.setLevel(level) diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/format.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/format.py new file mode 100644 index 0000000000000000000000000000000000000000..dc41fb9c03be065eebfecab71721aee397292566 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/format.py @@ -0,0 +1 @@ +LOG_FMT = '[%(asctime)s]::(PID %(process)d)::%(levelname)-2s::%(message)s' diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/mp.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/mp.py new file mode 100644 index 0000000000000000000000000000000000000000..91adef40ee1091f0d5aa4600d4a96aabe020924b --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/mp.py @@ -0,0 +1,46 @@ +import logging +from logging.handlers import QueueHandler +import multiprocessing as mp +from pathlib import Path +from typing import Optional + +from .format import LOG_FMT + +__all__ = [ + "configure_worker_logger", + "configure_listener_logger", +] + + +def configure_worker_logger( + queue: Optional[mp.Queue] = None, level: int = logging.DEBUG +): + root = logging.getLogger() + + if not root.hasHandlers() and queue is not None: + h = logging.handlers.QueueHandler(queue) + root.addHandler(h) + + root.setLevel(level) + + +def configure_listener_logger( + logfile: Optional[Path] = None, level: int = logging.DEBUG +): + root = logging.getLogger() + formatter = logging.Formatter(LOG_FMT) + + # write to log file + if logfile is not None: + if not logfile.parent.exists(): + logfile.parent.mkdir(parents=True) + file_handler = logging.FileHandler(logfile) + file_handler.setFormatter(formatter) + root.addHandler(file_handler) + + # write to stdout + stream_handler = logging.StreamHandler() + stream_handler.setFormatter(formatter) + root.addHandler(stream_handler) + + root.setLevel(level) diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/trackers.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/trackers.py new file mode 100644 index 0000000000000000000000000000000000000000..95a916469d824cf564a008b100c0379d7157ae3f --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/logging/trackers.py @@ -0,0 +1,31 @@ +__all__ = ["RateTracker"] + + +class RateTracker: + def __init__(self, n=200): + self._start_time_tracker = [] + self._counts_tracker = [] + self._n = n + + def update(self, count, start_time): + if len(self._start_time_tracker) >= self._n: + self._start_time_tracker.pop(0) + self._counts_tracker.pop(0) + + self._start_time_tracker.append(start_time) + self._counts_tracker.append(count) + + def get_rate(self, current_time: float): + if len(self._start_time_tracker) == 0: + return 0 + + if current_time - self._start_time_tracker[0] < 1e-6: + return 0 + + start_time = self._start_time_tracker[0] + pages = sum(self._counts_tracker) + return pages / (current_time - start_time) + + def reset(self): + self._start_time_tracker = [] + self._counts_tracker = [] diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__init__.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__init__.py new file mode 100644 index 0000000000000000000000000000000000000000..e69de29bb2d1d6434b8b29ae775ad8c2e48c5391 diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..495a03820ff3f2f62a707f9d2a46a178e7c3fa25 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..462b01cc1e37ec0486eaa6789a6baf045b78d0bd Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/__init__.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..d2bdff2e94137ba53e4d39006fd79b6b710d55d4 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..c420f19b34fd531c1581d8dac9640856162d9fdf Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/__pycache__/registry_utils.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/registry_utils.py b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/registry_utils.py new file mode 100644 index 0000000000000000000000000000000000000000..593cbb310e88222240f3f60991f62d187408d910 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/register/registry_utils.py @@ -0,0 +1,37 @@ +import inspect +from typing import Tuple, List, Type + +from core.quality_signals.base import RPSBase + +__all__ = [ + "get_callables_from_module", "signal_schema" +] + +_SIG_PREF = RPSBase.RPS_PREFIX + + +def get_callables_from_module(module: object) -> List[Type[RPSBase]]: + r""" Returns a list of signal class references that are defined in the + module. + + Args: + module: The module to search for signal classes, obtained via + `sys.modules[__name__]`. + + Returns: + A list of signal class references. + """ + + def _sig_func_predicate(mem: object): + return inspect.isclass(mem) and mem.__name__.startswith(_SIG_PREF) + + return [cls for _, cls in inspect.getmembers(module, _sig_func_predicate)] + + +def signal_schema(module: object) -> List[Tuple[str, Type]]: + r""" Returns a list of signal names and their data types, defining the + schema for signals. """ + return list(map( + lambda cls: (cls.__name__.lower(), cls.DATA_TYPE), + get_callables_from_module(module=module) + )) diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..615c48e0d2584077359c19c54f18f407fa988c82 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..dcd2f8e6fafb2b4a179a2af8d6af0bdc60ee6a57 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/__init__.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/ngrams.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/ngrams.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..f2e6460fa619db9aa0b02dcd4e214051532b9af2 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/ngrams.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..9651ad28d52d998bee7f58ffc4cd68a571d1e583 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-38.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-38.pyc new file mode 100644 index 0000000000000000000000000000000000000000..a728931478435a3ae00ac7d4fc55b2d22542f33d Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/normalization.cpython-38.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/util.cpython-310.pyc b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/util.cpython-310.pyc new file mode 100644 index 0000000000000000000000000000000000000000..57fe3f0a680bed069f4a8f4ef4a2cac2403b1fe3 Binary files /dev/null and b/cc-multilingual-main/dedup/RedPajama-Data/app/src/utilities/text/__pycache__/util.cpython-310.pyc differ diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/bn.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/bn.txt new file mode 100644 index 0000000000000000000000000000000000000000..02b460dee0b848051c8ee18525f694e63bb63179 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/bn.txt @@ -0,0 +1,1600 @@ +bn_all_0000.json.gz +bn_all_0001.json.gz +bn_all_0002.json.gz +bn_all_0003.json.gz +bn_all_0004.json.gz +bn_all_0005.json.gz +bn_all_0006.json.gz +bn_all_0007.json.gz +bn_all_0008.json.gz +bn_all_0009.json.gz +bn_all_0010.json.gz +bn_all_0011.json.gz +bn_all_0012.json.gz +bn_all_0013.json.gz +bn_all_0014.json.gz +bn_all_0015.json.gz +bn_all_0016.json.gz +bn_all_0017.json.gz +bn_all_0018.json.gz +bn_all_0019.json.gz +bn_all_0020.json.gz +bn_all_0021.json.gz +bn_all_0022.json.gz +bn_all_0023.json.gz +bn_all_0024.json.gz +bn_all_0025.json.gz +bn_all_0026.json.gz +bn_all_0027.json.gz +bn_all_0028.json.gz +bn_all_0029.json.gz +bn_all_0030.json.gz +bn_all_0031.json.gz +bn_all_0032.json.gz +bn_all_0033.json.gz +bn_all_0034.json.gz +bn_all_0035.json.gz +bn_all_0036.json.gz +bn_all_0037.json.gz +bn_all_0038.json.gz +bn_all_0039.json.gz +bn_all_0040.json.gz +bn_all_0041.json.gz +bn_all_0042.json.gz +bn_all_0043.json.gz +bn_all_0044.json.gz +bn_all_0045.json.gz +bn_all_0046.json.gz +bn_all_0047.json.gz +bn_all_0048.json.gz +bn_all_0049.json.gz +bn_all_0050.json.gz +bn_all_0051.json.gz +bn_all_0052.json.gz +bn_all_0053.json.gz +bn_all_0054.json.gz +bn_all_0055.json.gz +bn_all_0056.json.gz +bn_all_0057.json.gz +bn_all_0058.json.gz +bn_all_0059.json.gz +bn_all_0060.json.gz +bn_all_0061.json.gz +bn_all_0062.json.gz +bn_all_0063.json.gz +bn_all_0064.json.gz +bn_all_0065.json.gz +bn_all_0066.json.gz +bn_all_0067.json.gz +bn_all_0068.json.gz +bn_all_0069.json.gz +bn_all_0070.json.gz +bn_all_0071.json.gz +bn_all_0072.json.gz +bn_all_0073.json.gz +bn_all_0074.json.gz +bn_all_0075.json.gz +bn_all_0076.json.gz +bn_all_0077.json.gz +bn_all_0078.json.gz +bn_all_0079.json.gz +bn_all_0080.json.gz +bn_all_0081.json.gz +bn_all_0082.json.gz +bn_all_0083.json.gz +bn_all_0084.json.gz +bn_all_0085.json.gz +bn_all_0086.json.gz +bn_all_0087.json.gz +bn_all_0088.json.gz +bn_all_0089.json.gz +bn_all_0090.json.gz +bn_all_0091.json.gz +bn_all_0092.json.gz +bn_all_0093.json.gz +bn_all_0094.json.gz +bn_all_0095.json.gz +bn_all_0096.json.gz +bn_all_0097.json.gz +bn_all_0098.json.gz +bn_all_0099.json.gz +bn_all_0100.json.gz +bn_all_0101.json.gz +bn_all_0102.json.gz +bn_all_0103.json.gz +bn_all_0104.json.gz +bn_all_0105.json.gz +bn_all_0106.json.gz +bn_all_0107.json.gz +bn_all_0108.json.gz +bn_all_0109.json.gz +bn_all_0110.json.gz +bn_all_0111.json.gz +bn_all_0112.json.gz +bn_all_0113.json.gz +bn_all_0114.json.gz +bn_all_0115.json.gz +bn_all_0116.json.gz +bn_all_0117.json.gz +bn_all_0118.json.gz +bn_all_0119.json.gz +bn_all_0120.json.gz +bn_all_0121.json.gz +bn_all_0122.json.gz +bn_all_0123.json.gz +bn_all_0124.json.gz +bn_all_0125.json.gz +bn_all_0126.json.gz +bn_all_0127.json.gz +bn_all_0128.json.gz +bn_all_0129.json.gz +bn_all_0130.json.gz +bn_all_0131.json.gz +bn_all_0132.json.gz +bn_all_0133.json.gz +bn_all_0134.json.gz +bn_all_0135.json.gz +bn_all_0136.json.gz +bn_all_0137.json.gz +bn_all_0138.json.gz +bn_all_0139.json.gz +bn_all_0140.json.gz +bn_all_0141.json.gz +bn_all_0142.json.gz +bn_all_0143.json.gz +bn_all_0144.json.gz +bn_all_0145.json.gz +bn_all_0146.json.gz +bn_all_0147.json.gz +bn_all_0148.json.gz +bn_all_0149.json.gz +bn_all_0150.json.gz +bn_all_0151.json.gz +bn_all_0152.json.gz +bn_all_0153.json.gz +bn_all_0154.json.gz +bn_all_0155.json.gz +bn_all_0156.json.gz +bn_all_0157.json.gz +bn_all_0158.json.gz +bn_all_0159.json.gz +bn_all_0160.json.gz +bn_all_0161.json.gz +bn_all_0162.json.gz +bn_all_0163.json.gz +bn_all_0164.json.gz +bn_all_0165.json.gz +bn_all_0166.json.gz +bn_all_0167.json.gz +bn_all_0168.json.gz +bn_all_0169.json.gz +bn_all_0170.json.gz +bn_all_0171.json.gz +bn_all_0172.json.gz +bn_all_0173.json.gz +bn_all_0174.json.gz +bn_all_0175.json.gz +bn_all_0176.json.gz +bn_all_0177.json.gz +bn_all_0178.json.gz +bn_all_0179.json.gz +bn_all_0180.json.gz +bn_all_0181.json.gz +bn_all_0182.json.gz +bn_all_0183.json.gz +bn_all_0184.json.gz +bn_all_0185.json.gz +bn_all_0186.json.gz +bn_all_0187.json.gz +bn_all_0188.json.gz +bn_all_0189.json.gz +bn_all_0190.json.gz +bn_all_0191.json.gz +bn_all_0192.json.gz +bn_all_0193.json.gz +bn_all_0194.json.gz +bn_all_0195.json.gz +bn_all_0196.json.gz +bn_all_0197.json.gz +bn_all_0198.json.gz +bn_all_0199.json.gz +bn_all_0200.json.gz +bn_all_0201.json.gz +bn_all_0202.json.gz +bn_all_0203.json.gz +bn_all_0204.json.gz +bn_all_0205.json.gz +bn_all_0206.json.gz +bn_all_0207.json.gz +bn_all_0208.json.gz +bn_all_0209.json.gz +bn_all_0210.json.gz +bn_all_0211.json.gz +bn_all_0212.json.gz +bn_all_0213.json.gz +bn_all_0214.json.gz +bn_all_0215.json.gz +bn_all_0216.json.gz +bn_all_0217.json.gz +bn_all_0218.json.gz +bn_all_0219.json.gz +bn_all_0220.json.gz +bn_all_0221.json.gz +bn_all_0222.json.gz +bn_all_0223.json.gz +bn_all_0224.json.gz +bn_all_0225.json.gz +bn_all_0226.json.gz +bn_all_0227.json.gz +bn_all_0228.json.gz +bn_all_0229.json.gz +bn_all_0230.json.gz +bn_all_0231.json.gz +bn_all_0232.json.gz +bn_all_0233.json.gz +bn_all_0234.json.gz +bn_all_0235.json.gz +bn_all_0236.json.gz +bn_all_0237.json.gz +bn_all_0238.json.gz +bn_all_0239.json.gz +bn_all_0240.json.gz +bn_all_0241.json.gz +bn_all_0242.json.gz +bn_all_0243.json.gz +bn_all_0244.json.gz +bn_all_0245.json.gz +bn_all_0246.json.gz +bn_all_0247.json.gz +bn_all_0248.json.gz +bn_all_0249.json.gz +bn_all_0250.json.gz +bn_all_0251.json.gz +bn_all_0252.json.gz +bn_all_0253.json.gz +bn_all_0254.json.gz +bn_all_0255.json.gz +bn_all_0256.json.gz +bn_all_0257.json.gz +bn_all_0258.json.gz +bn_all_0259.json.gz +bn_all_0260.json.gz +bn_all_0261.json.gz +bn_all_0262.json.gz +bn_all_0263.json.gz +bn_all_0264.json.gz +bn_all_0265.json.gz +bn_all_0266.json.gz +bn_all_0267.json.gz +bn_all_0268.json.gz +bn_all_0269.json.gz +bn_all_0270.json.gz +bn_all_0271.json.gz +bn_all_0272.json.gz +bn_all_0273.json.gz +bn_all_0274.json.gz +bn_all_0275.json.gz +bn_all_0276.json.gz +bn_all_0277.json.gz +bn_all_0278.json.gz +bn_all_0279.json.gz +bn_all_0280.json.gz +bn_all_0281.json.gz +bn_all_0282.json.gz +bn_all_0283.json.gz +bn_all_0284.json.gz +bn_all_0285.json.gz +bn_all_0286.json.gz +bn_all_0287.json.gz +bn_all_0288.json.gz +bn_all_0289.json.gz +bn_all_0290.json.gz +bn_all_0291.json.gz +bn_all_0292.json.gz +bn_all_0293.json.gz +bn_all_0294.json.gz +bn_all_0295.json.gz +bn_all_0296.json.gz +bn_all_0297.json.gz +bn_all_0298.json.gz +bn_all_0299.json.gz +bn_all_0300.json.gz +bn_all_0301.json.gz +bn_all_0302.json.gz +bn_all_0303.json.gz +bn_all_0304.json.gz +bn_all_0305.json.gz +bn_all_0306.json.gz +bn_all_0307.json.gz +bn_all_0308.json.gz +bn_all_0309.json.gz +bn_all_0310.json.gz +bn_all_0311.json.gz +bn_all_0312.json.gz +bn_all_0313.json.gz +bn_all_0314.json.gz +bn_all_0315.json.gz +bn_all_0316.json.gz +bn_all_0317.json.gz +bn_all_0318.json.gz +bn_all_0319.json.gz +bn_all_0320.json.gz +bn_all_0321.json.gz +bn_all_0322.json.gz +bn_all_0323.json.gz +bn_all_0324.json.gz +bn_all_0325.json.gz +bn_all_0326.json.gz +bn_all_0327.json.gz +bn_all_0328.json.gz +bn_all_0329.json.gz +bn_all_0330.json.gz +bn_all_0331.json.gz +bn_all_0332.json.gz +bn_all_0333.json.gz +bn_all_0334.json.gz +bn_all_0335.json.gz +bn_all_0336.json.gz +bn_all_0337.json.gz +bn_all_0338.json.gz +bn_all_0339.json.gz +bn_all_0340.json.gz +bn_all_0341.json.gz +bn_all_0342.json.gz +bn_all_0343.json.gz +bn_all_0344.json.gz +bn_all_0345.json.gz +bn_all_0346.json.gz +bn_all_0347.json.gz +bn_all_0348.json.gz +bn_all_0349.json.gz +bn_all_0350.json.gz +bn_all_0351.json.gz +bn_all_0352.json.gz +bn_all_0353.json.gz +bn_all_0354.json.gz +bn_all_0355.json.gz +bn_all_0356.json.gz +bn_all_0357.json.gz +bn_all_0358.json.gz +bn_all_0359.json.gz +bn_all_0360.json.gz +bn_all_0361.json.gz +bn_all_0362.json.gz +bn_all_0363.json.gz +bn_all_0364.json.gz +bn_all_0365.json.gz +bn_all_0366.json.gz +bn_all_0367.json.gz +bn_all_0368.json.gz +bn_all_0369.json.gz +bn_all_0370.json.gz +bn_all_0371.json.gz +bn_all_0372.json.gz +bn_all_0373.json.gz +bn_all_0374.json.gz +bn_all_0375.json.gz +bn_all_0376.json.gz +bn_all_0377.json.gz +bn_all_0378.json.gz +bn_all_0379.json.gz +bn_all_0380.json.gz +bn_all_0381.json.gz +bn_all_0382.json.gz +bn_all_0383.json.gz +bn_all_0384.json.gz +bn_all_0385.json.gz +bn_all_0386.json.gz +bn_all_0387.json.gz +bn_all_0388.json.gz +bn_all_0389.json.gz +bn_all_0390.json.gz +bn_all_0391.json.gz +bn_all_0392.json.gz +bn_all_0393.json.gz +bn_all_0394.json.gz +bn_all_0395.json.gz +bn_all_0396.json.gz +bn_all_0397.json.gz +bn_all_0398.json.gz +bn_all_0399.json.gz +bn_all_0400.json.gz +bn_all_0401.json.gz +bn_all_0402.json.gz +bn_all_0403.json.gz +bn_all_0404.json.gz +bn_all_0405.json.gz +bn_all_0406.json.gz +bn_all_0407.json.gz +bn_all_0408.json.gz +bn_all_0409.json.gz +bn_all_0410.json.gz +bn_all_0411.json.gz +bn_all_0412.json.gz +bn_all_0413.json.gz +bn_all_0414.json.gz +bn_all_0415.json.gz +bn_all_0416.json.gz +bn_all_0417.json.gz +bn_all_0418.json.gz +bn_all_0419.json.gz +bn_all_0420.json.gz +bn_all_0421.json.gz +bn_all_0422.json.gz +bn_all_0423.json.gz +bn_all_0424.json.gz +bn_all_0425.json.gz +bn_all_0426.json.gz +bn_all_0427.json.gz +bn_all_0428.json.gz +bn_all_0429.json.gz +bn_all_0430.json.gz +bn_all_0431.json.gz +bn_all_0432.json.gz +bn_all_0433.json.gz +bn_all_0434.json.gz +bn_all_0435.json.gz +bn_all_0436.json.gz +bn_all_0437.json.gz +bn_all_0438.json.gz +bn_all_0439.json.gz +bn_all_0440.json.gz +bn_all_0441.json.gz +bn_all_0442.json.gz +bn_all_0443.json.gz +bn_all_0444.json.gz +bn_all_0445.json.gz +bn_all_0446.json.gz +bn_all_0447.json.gz +bn_all_0448.json.gz +bn_all_0449.json.gz +bn_all_0450.json.gz +bn_all_0451.json.gz +bn_all_0452.json.gz +bn_all_0453.json.gz +bn_all_0454.json.gz +bn_all_0455.json.gz +bn_all_0456.json.gz +bn_all_0457.json.gz +bn_all_0458.json.gz +bn_all_0459.json.gz +bn_all_0460.json.gz +bn_all_0461.json.gz +bn_all_0462.json.gz +bn_all_0463.json.gz +bn_all_0464.json.gz +bn_all_0465.json.gz +bn_all_0466.json.gz +bn_all_0467.json.gz +bn_all_0468.json.gz +bn_all_0469.json.gz +bn_all_0470.json.gz +bn_all_0471.json.gz +bn_all_0472.json.gz +bn_all_0473.json.gz +bn_all_0474.json.gz +bn_all_0475.json.gz +bn_all_0476.json.gz +bn_all_0477.json.gz +bn_all_0478.json.gz +bn_all_0479.json.gz +bn_all_0480.json.gz +bn_all_0481.json.gz +bn_all_0482.json.gz +bn_all_0483.json.gz +bn_all_0484.json.gz +bn_all_0485.json.gz +bn_all_0486.json.gz +bn_all_0487.json.gz +bn_all_0488.json.gz +bn_all_0489.json.gz +bn_all_0490.json.gz +bn_all_0491.json.gz +bn_all_0492.json.gz +bn_all_0493.json.gz +bn_all_0494.json.gz +bn_all_0495.json.gz +bn_all_0496.json.gz +bn_all_0497.json.gz +bn_all_0498.json.gz +bn_all_0499.json.gz +bn_all_0500.json.gz +bn_all_0501.json.gz +bn_all_0502.json.gz +bn_all_0503.json.gz +bn_all_0504.json.gz +bn_all_0505.json.gz +bn_all_0506.json.gz +bn_all_0507.json.gz +bn_all_0508.json.gz +bn_all_0509.json.gz +bn_all_0510.json.gz +bn_all_0511.json.gz +bn_all_0512.json.gz +bn_all_0513.json.gz +bn_all_0514.json.gz +bn_all_0515.json.gz +bn_all_0516.json.gz +bn_all_0517.json.gz +bn_all_0518.json.gz +bn_all_0519.json.gz +bn_all_0520.json.gz +bn_all_0521.json.gz +bn_all_0522.json.gz +bn_all_0523.json.gz +bn_all_0524.json.gz +bn_all_0525.json.gz +bn_all_0526.json.gz +bn_all_0527.json.gz +bn_all_0528.json.gz +bn_all_0529.json.gz +bn_all_0530.json.gz +bn_all_0531.json.gz +bn_all_0532.json.gz +bn_all_0533.json.gz +bn_all_0534.json.gz +bn_all_0535.json.gz +bn_all_0536.json.gz +bn_all_0537.json.gz +bn_all_0538.json.gz +bn_all_0539.json.gz +bn_all_0540.json.gz +bn_all_0541.json.gz +bn_all_0542.json.gz +bn_all_0543.json.gz +bn_all_0544.json.gz +bn_all_0545.json.gz +bn_all_0546.json.gz +bn_all_0547.json.gz +bn_all_0548.json.gz +bn_all_0549.json.gz +bn_all_0550.json.gz +bn_all_0551.json.gz +bn_all_0552.json.gz +bn_all_0553.json.gz +bn_all_0554.json.gz +bn_all_0555.json.gz +bn_all_0556.json.gz +bn_all_0557.json.gz +bn_all_0558.json.gz +bn_all_0559.json.gz +bn_all_0560.json.gz +bn_all_0561.json.gz +bn_all_0562.json.gz +bn_all_0563.json.gz +bn_all_0564.json.gz +bn_all_0565.json.gz +bn_all_0566.json.gz +bn_all_0567.json.gz +bn_all_0568.json.gz +bn_all_0569.json.gz +bn_all_0570.json.gz +bn_all_0571.json.gz +bn_all_0572.json.gz +bn_all_0573.json.gz +bn_all_0574.json.gz +bn_all_0575.json.gz +bn_all_0576.json.gz +bn_all_0577.json.gz +bn_all_0578.json.gz +bn_all_0579.json.gz +bn_all_0580.json.gz +bn_all_0581.json.gz +bn_all_0582.json.gz +bn_all_0583.json.gz +bn_all_0584.json.gz +bn_all_0585.json.gz +bn_all_0586.json.gz +bn_all_0587.json.gz +bn_all_0588.json.gz +bn_all_0589.json.gz +bn_all_0590.json.gz +bn_all_0591.json.gz +bn_all_0592.json.gz +bn_all_0593.json.gz +bn_all_0594.json.gz +bn_all_0595.json.gz +bn_all_0596.json.gz +bn_all_0597.json.gz +bn_all_0598.json.gz +bn_all_0599.json.gz +bn_all_0600.json.gz +bn_all_0601.json.gz +bn_all_0602.json.gz +bn_all_0603.json.gz +bn_all_0604.json.gz +bn_all_0605.json.gz +bn_all_0606.json.gz +bn_all_0607.json.gz +bn_all_0608.json.gz +bn_all_0609.json.gz +bn_all_0610.json.gz +bn_all_0611.json.gz +bn_all_0612.json.gz +bn_all_0613.json.gz +bn_all_0614.json.gz +bn_all_0615.json.gz +bn_all_0616.json.gz +bn_all_0617.json.gz +bn_all_0618.json.gz +bn_all_0619.json.gz +bn_all_0620.json.gz +bn_all_0621.json.gz +bn_all_0622.json.gz +bn_all_0623.json.gz +bn_all_0624.json.gz +bn_all_0625.json.gz +bn_all_0626.json.gz +bn_all_0627.json.gz +bn_all_0628.json.gz +bn_all_0629.json.gz +bn_all_0630.json.gz +bn_all_0631.json.gz +bn_all_0632.json.gz +bn_all_0633.json.gz +bn_all_0634.json.gz +bn_all_0635.json.gz +bn_all_0636.json.gz +bn_all_0637.json.gz +bn_all_0638.json.gz +bn_all_0639.json.gz +bn_all_0640.json.gz +bn_all_0641.json.gz +bn_all_0642.json.gz +bn_all_0643.json.gz +bn_all_0644.json.gz +bn_all_0645.json.gz +bn_all_0646.json.gz +bn_all_0647.json.gz +bn_all_0648.json.gz +bn_all_0649.json.gz +bn_all_0650.json.gz +bn_all_0651.json.gz +bn_all_0652.json.gz +bn_all_0653.json.gz +bn_all_0654.json.gz +bn_all_0655.json.gz +bn_all_0656.json.gz +bn_all_0657.json.gz +bn_all_0658.json.gz +bn_all_0659.json.gz +bn_all_0660.json.gz +bn_all_0661.json.gz +bn_all_0662.json.gz +bn_all_0663.json.gz +bn_all_0664.json.gz +bn_all_0665.json.gz +bn_all_0666.json.gz +bn_all_0667.json.gz +bn_all_0668.json.gz +bn_all_0669.json.gz +bn_all_0670.json.gz +bn_all_0671.json.gz +bn_all_0672.json.gz +bn_all_0673.json.gz +bn_all_0674.json.gz +bn_all_0675.json.gz +bn_all_0676.json.gz +bn_all_0677.json.gz +bn_all_0678.json.gz +bn_all_0679.json.gz +bn_all_0680.json.gz +bn_all_0681.json.gz +bn_all_0682.json.gz +bn_all_0683.json.gz +bn_all_0684.json.gz +bn_all_0685.json.gz +bn_all_0686.json.gz +bn_all_0687.json.gz +bn_all_0688.json.gz +bn_all_0689.json.gz +bn_all_0690.json.gz +bn_all_0691.json.gz +bn_all_0692.json.gz +bn_all_0693.json.gz +bn_all_0694.json.gz +bn_all_0695.json.gz +bn_all_0696.json.gz +bn_all_0697.json.gz +bn_all_0698.json.gz +bn_all_0699.json.gz +bn_all_0700.json.gz +bn_all_0701.json.gz +bn_all_0702.json.gz +bn_all_0703.json.gz +bn_all_0704.json.gz +bn_all_0705.json.gz +bn_all_0706.json.gz +bn_all_0707.json.gz +bn_all_0708.json.gz +bn_all_0709.json.gz +bn_all_0710.json.gz +bn_all_0711.json.gz +bn_all_0712.json.gz +bn_all_0713.json.gz +bn_all_0714.json.gz +bn_all_0715.json.gz +bn_all_0716.json.gz +bn_all_0717.json.gz +bn_all_0718.json.gz +bn_all_0719.json.gz +bn_all_0720.json.gz +bn_all_0721.json.gz +bn_all_0722.json.gz +bn_all_0723.json.gz +bn_all_0724.json.gz +bn_all_0725.json.gz +bn_all_0726.json.gz +bn_all_0727.json.gz +bn_all_0728.json.gz +bn_all_0729.json.gz +bn_all_0730.json.gz +bn_all_0731.json.gz +bn_all_0732.json.gz +bn_all_0733.json.gz +bn_all_0734.json.gz +bn_all_0735.json.gz +bn_all_0736.json.gz +bn_all_0737.json.gz +bn_all_0738.json.gz +bn_all_0739.json.gz +bn_all_0740.json.gz +bn_all_0741.json.gz +bn_all_0742.json.gz +bn_all_0743.json.gz +bn_all_0744.json.gz +bn_all_0745.json.gz +bn_all_0746.json.gz +bn_all_0747.json.gz +bn_all_0748.json.gz +bn_all_0749.json.gz +bn_all_0750.json.gz +bn_all_0751.json.gz +bn_all_0752.json.gz +bn_all_0753.json.gz +bn_all_0754.json.gz +bn_all_0755.json.gz +bn_all_0756.json.gz +bn_all_0757.json.gz +bn_all_0758.json.gz +bn_all_0759.json.gz +bn_all_0760.json.gz +bn_all_0761.json.gz +bn_all_0762.json.gz +bn_all_0763.json.gz +bn_all_0764.json.gz +bn_all_0765.json.gz +bn_all_0766.json.gz +bn_all_0767.json.gz +bn_all_0768.json.gz +bn_all_0769.json.gz +bn_all_0770.json.gz +bn_all_0771.json.gz +bn_all_0772.json.gz +bn_all_0773.json.gz +bn_all_0774.json.gz +bn_all_0775.json.gz +bn_all_0776.json.gz +bn_all_0777.json.gz +bn_all_0778.json.gz +bn_all_0779.json.gz +bn_all_0780.json.gz +bn_all_0781.json.gz +bn_all_0782.json.gz +bn_all_0783.json.gz +bn_all_0784.json.gz +bn_all_0785.json.gz +bn_all_0786.json.gz +bn_all_0787.json.gz +bn_all_0788.json.gz +bn_all_0789.json.gz +bn_all_0790.json.gz +bn_all_0791.json.gz +bn_all_0792.json.gz +bn_all_0793.json.gz +bn_all_0794.json.gz +bn_all_0795.json.gz +bn_all_0796.json.gz +bn_all_0797.json.gz +bn_all_0798.json.gz +bn_all_0799.json.gz +bn_all_0800.json.gz +bn_all_0801.json.gz +bn_all_0802.json.gz +bn_all_0803.json.gz +bn_all_0804.json.gz +bn_all_0805.json.gz +bn_all_0806.json.gz +bn_all_0807.json.gz +bn_all_0808.json.gz +bn_all_0809.json.gz +bn_all_0810.json.gz +bn_all_0811.json.gz +bn_all_0812.json.gz +bn_all_0813.json.gz +bn_all_0814.json.gz +bn_all_0815.json.gz +bn_all_0816.json.gz +bn_all_0817.json.gz +bn_all_0818.json.gz +bn_all_0819.json.gz +bn_all_0820.json.gz +bn_all_0821.json.gz +bn_all_0822.json.gz +bn_all_0823.json.gz +bn_all_0824.json.gz +bn_all_0825.json.gz +bn_all_0826.json.gz +bn_all_0827.json.gz +bn_all_0828.json.gz +bn_all_0829.json.gz +bn_all_0830.json.gz +bn_all_0831.json.gz +bn_all_0832.json.gz +bn_all_0833.json.gz +bn_all_0834.json.gz +bn_all_0835.json.gz +bn_all_0836.json.gz +bn_all_0837.json.gz +bn_all_0838.json.gz +bn_all_0839.json.gz +bn_all_0840.json.gz +bn_all_0841.json.gz +bn_all_0842.json.gz +bn_all_0843.json.gz +bn_all_0844.json.gz +bn_all_0845.json.gz +bn_all_0846.json.gz +bn_all_0847.json.gz +bn_all_0848.json.gz +bn_all_0849.json.gz +bn_all_0850.json.gz +bn_all_0851.json.gz +bn_all_0852.json.gz +bn_all_0853.json.gz +bn_all_0854.json.gz +bn_all_0855.json.gz +bn_all_0856.json.gz +bn_all_0857.json.gz +bn_all_0858.json.gz +bn_all_0859.json.gz +bn_all_0860.json.gz +bn_all_0861.json.gz +bn_all_0862.json.gz +bn_all_0863.json.gz +bn_all_0864.json.gz +bn_all_0865.json.gz +bn_all_0866.json.gz +bn_all_0867.json.gz +bn_all_0868.json.gz +bn_all_0869.json.gz +bn_all_0870.json.gz +bn_all_0871.json.gz +bn_all_0872.json.gz +bn_all_0873.json.gz +bn_all_0874.json.gz +bn_all_0875.json.gz +bn_all_0876.json.gz +bn_all_0877.json.gz +bn_all_0878.json.gz +bn_all_0879.json.gz +bn_all_0880.json.gz +bn_all_0881.json.gz +bn_all_0882.json.gz +bn_all_0883.json.gz +bn_all_0884.json.gz +bn_all_0885.json.gz +bn_all_0886.json.gz +bn_all_0887.json.gz +bn_all_0888.json.gz +bn_all_0889.json.gz +bn_all_0890.json.gz +bn_all_0891.json.gz +bn_all_0892.json.gz +bn_all_0893.json.gz +bn_all_0894.json.gz +bn_all_0895.json.gz +bn_all_0896.json.gz +bn_all_0897.json.gz +bn_all_0898.json.gz +bn_all_0899.json.gz +bn_all_0900.json.gz +bn_all_0901.json.gz +bn_all_0902.json.gz +bn_all_0903.json.gz +bn_all_0904.json.gz +bn_all_0905.json.gz +bn_all_0906.json.gz +bn_all_0907.json.gz +bn_all_0908.json.gz +bn_all_0909.json.gz +bn_all_0910.json.gz +bn_all_0911.json.gz +bn_all_0912.json.gz +bn_all_0913.json.gz +bn_all_0914.json.gz +bn_all_0915.json.gz +bn_all_0916.json.gz +bn_all_0917.json.gz +bn_all_0918.json.gz +bn_all_0919.json.gz +bn_all_0920.json.gz +bn_all_0921.json.gz +bn_all_0922.json.gz +bn_all_0923.json.gz +bn_all_0924.json.gz +bn_all_0925.json.gz +bn_all_0926.json.gz +bn_all_0927.json.gz +bn_all_0928.json.gz +bn_all_0929.json.gz +bn_all_0930.json.gz +bn_all_0931.json.gz +bn_all_0932.json.gz +bn_all_0933.json.gz +bn_all_0934.json.gz +bn_all_0935.json.gz +bn_all_0936.json.gz +bn_all_0937.json.gz +bn_all_0938.json.gz +bn_all_0939.json.gz +bn_all_0940.json.gz +bn_all_0941.json.gz +bn_all_0942.json.gz +bn_all_0943.json.gz +bn_all_0944.json.gz +bn_all_0945.json.gz +bn_all_0946.json.gz +bn_all_0947.json.gz +bn_all_0948.json.gz +bn_all_0949.json.gz +bn_all_0950.json.gz +bn_all_0951.json.gz +bn_all_0952.json.gz +bn_all_0953.json.gz +bn_all_0954.json.gz +bn_all_0955.json.gz +bn_all_0956.json.gz +bn_all_0957.json.gz +bn_all_0958.json.gz +bn_all_0959.json.gz +bn_all_0960.json.gz +bn_all_0961.json.gz +bn_all_0962.json.gz +bn_all_0963.json.gz +bn_all_0964.json.gz +bn_all_0965.json.gz +bn_all_0966.json.gz +bn_all_0967.json.gz +bn_all_0968.json.gz +bn_all_0969.json.gz +bn_all_0970.json.gz +bn_all_0971.json.gz +bn_all_0972.json.gz +bn_all_0973.json.gz +bn_all_0974.json.gz +bn_all_0975.json.gz +bn_all_0976.json.gz +bn_all_0977.json.gz +bn_all_0978.json.gz +bn_all_0979.json.gz +bn_all_0980.json.gz +bn_all_0981.json.gz +bn_all_0982.json.gz +bn_all_0983.json.gz +bn_all_0984.json.gz +bn_all_0985.json.gz +bn_all_0986.json.gz +bn_all_0987.json.gz +bn_all_0988.json.gz +bn_all_0989.json.gz +bn_all_0990.json.gz +bn_all_0991.json.gz +bn_all_0992.json.gz +bn_all_0993.json.gz +bn_all_0994.json.gz +bn_all_0995.json.gz +bn_all_0996.json.gz +bn_all_0997.json.gz +bn_all_0998.json.gz +bn_all_0999.json.gz +bn_all_1000.json.gz +bn_all_1001.json.gz +bn_all_1002.json.gz +bn_all_1003.json.gz +bn_all_1004.json.gz +bn_all_1005.json.gz +bn_all_1006.json.gz +bn_all_1007.json.gz +bn_all_1008.json.gz +bn_all_1009.json.gz +bn_all_1010.json.gz +bn_all_1011.json.gz +bn_all_1012.json.gz +bn_all_1013.json.gz +bn_all_1014.json.gz +bn_all_1015.json.gz +bn_all_1016.json.gz +bn_all_1017.json.gz +bn_all_1018.json.gz +bn_all_1019.json.gz +bn_all_1020.json.gz +bn_all_1021.json.gz +bn_all_1022.json.gz +bn_all_1023.json.gz +bn_all_1024.json.gz +bn_all_1025.json.gz +bn_all_1026.json.gz +bn_all_1027.json.gz +bn_all_1028.json.gz +bn_all_1029.json.gz +bn_all_1030.json.gz +bn_all_1031.json.gz +bn_all_1032.json.gz +bn_all_1033.json.gz +bn_all_1034.json.gz +bn_all_1035.json.gz +bn_all_1036.json.gz +bn_all_1037.json.gz +bn_all_1038.json.gz +bn_all_1039.json.gz +bn_all_1040.json.gz +bn_all_1041.json.gz +bn_all_1042.json.gz +bn_all_1043.json.gz +bn_all_1044.json.gz +bn_all_1045.json.gz +bn_all_1046.json.gz +bn_all_1047.json.gz +bn_all_1048.json.gz +bn_all_1049.json.gz +bn_all_1050.json.gz +bn_all_1051.json.gz +bn_all_1052.json.gz +bn_all_1053.json.gz +bn_all_1054.json.gz +bn_all_1055.json.gz +bn_all_1056.json.gz +bn_all_1057.json.gz +bn_all_1058.json.gz +bn_all_1059.json.gz +bn_all_1060.json.gz +bn_all_1061.json.gz +bn_all_1062.json.gz +bn_all_1063.json.gz +bn_all_1064.json.gz +bn_all_1065.json.gz +bn_all_1066.json.gz +bn_all_1067.json.gz +bn_all_1068.json.gz +bn_all_1069.json.gz +bn_all_1070.json.gz +bn_all_1071.json.gz +bn_all_1072.json.gz +bn_all_1073.json.gz +bn_all_1074.json.gz +bn_all_1075.json.gz +bn_all_1076.json.gz +bn_all_1077.json.gz +bn_all_1078.json.gz +bn_all_1079.json.gz +bn_all_1080.json.gz +bn_all_1081.json.gz +bn_all_1082.json.gz +bn_all_1083.json.gz +bn_all_1084.json.gz +bn_all_1085.json.gz +bn_all_1086.json.gz +bn_all_1087.json.gz +bn_all_1088.json.gz +bn_all_1089.json.gz +bn_all_1090.json.gz +bn_all_1091.json.gz +bn_all_1092.json.gz +bn_all_1093.json.gz +bn_all_1094.json.gz +bn_all_1095.json.gz +bn_all_1096.json.gz +bn_all_1097.json.gz +bn_all_1098.json.gz +bn_all_1099.json.gz +bn_all_1100.json.gz +bn_all_1101.json.gz +bn_all_1102.json.gz +bn_all_1103.json.gz +bn_all_1104.json.gz +bn_all_1105.json.gz +bn_all_1106.json.gz +bn_all_1107.json.gz +bn_all_1108.json.gz +bn_all_1109.json.gz +bn_all_1110.json.gz +bn_all_1111.json.gz +bn_all_1112.json.gz +bn_all_1113.json.gz +bn_all_1114.json.gz +bn_all_1115.json.gz +bn_all_1116.json.gz +bn_all_1117.json.gz +bn_all_1118.json.gz +bn_all_1119.json.gz +bn_all_1120.json.gz +bn_all_1121.json.gz +bn_all_1122.json.gz +bn_all_1123.json.gz +bn_all_1124.json.gz +bn_all_1125.json.gz +bn_all_1126.json.gz +bn_all_1127.json.gz +bn_all_1128.json.gz +bn_all_1129.json.gz +bn_all_1130.json.gz +bn_all_1131.json.gz +bn_all_1132.json.gz +bn_all_1133.json.gz +bn_all_1134.json.gz +bn_all_1135.json.gz +bn_all_1136.json.gz +bn_all_1137.json.gz +bn_all_1138.json.gz +bn_all_1139.json.gz +bn_all_1140.json.gz +bn_all_1141.json.gz +bn_all_1142.json.gz +bn_all_1143.json.gz +bn_all_1144.json.gz +bn_all_1145.json.gz +bn_all_1146.json.gz +bn_all_1147.json.gz +bn_all_1148.json.gz +bn_all_1149.json.gz +bn_all_1150.json.gz +bn_all_1151.json.gz +bn_all_1152.json.gz +bn_all_1153.json.gz +bn_all_1154.json.gz +bn_all_1155.json.gz +bn_all_1156.json.gz +bn_all_1157.json.gz +bn_all_1158.json.gz +bn_all_1159.json.gz +bn_all_1160.json.gz +bn_all_1161.json.gz +bn_all_1162.json.gz +bn_all_1163.json.gz +bn_all_1164.json.gz +bn_all_1165.json.gz +bn_all_1166.json.gz +bn_all_1167.json.gz +bn_all_1168.json.gz +bn_all_1169.json.gz +bn_all_1170.json.gz +bn_all_1171.json.gz +bn_all_1172.json.gz +bn_all_1173.json.gz +bn_all_1174.json.gz +bn_all_1175.json.gz +bn_all_1176.json.gz +bn_all_1177.json.gz +bn_all_1178.json.gz +bn_all_1179.json.gz +bn_all_1180.json.gz +bn_all_1181.json.gz +bn_all_1182.json.gz +bn_all_1183.json.gz +bn_all_1184.json.gz +bn_all_1185.json.gz +bn_all_1186.json.gz +bn_all_1187.json.gz +bn_all_1188.json.gz +bn_all_1189.json.gz +bn_all_1190.json.gz +bn_all_1191.json.gz +bn_all_1192.json.gz +bn_all_1193.json.gz +bn_all_1194.json.gz +bn_all_1195.json.gz +bn_all_1196.json.gz +bn_all_1197.json.gz +bn_all_1198.json.gz +bn_all_1199.json.gz +bn_all_1200.json.gz +bn_all_1201.json.gz +bn_all_1202.json.gz +bn_all_1203.json.gz +bn_all_1204.json.gz +bn_all_1205.json.gz +bn_all_1206.json.gz +bn_all_1207.json.gz +bn_all_1208.json.gz +bn_all_1209.json.gz +bn_all_1210.json.gz +bn_all_1211.json.gz +bn_all_1212.json.gz +bn_all_1213.json.gz +bn_all_1214.json.gz +bn_all_1215.json.gz +bn_all_1216.json.gz +bn_all_1217.json.gz +bn_all_1218.json.gz +bn_all_1219.json.gz +bn_all_1220.json.gz +bn_all_1221.json.gz +bn_all_1222.json.gz +bn_all_1223.json.gz +bn_all_1224.json.gz +bn_all_1225.json.gz +bn_all_1226.json.gz +bn_all_1227.json.gz +bn_all_1228.json.gz +bn_all_1229.json.gz +bn_all_1230.json.gz +bn_all_1231.json.gz +bn_all_1232.json.gz +bn_all_1233.json.gz +bn_all_1234.json.gz +bn_all_1235.json.gz +bn_all_1236.json.gz +bn_all_1237.json.gz +bn_all_1238.json.gz +bn_all_1239.json.gz +bn_all_1240.json.gz +bn_all_1241.json.gz +bn_all_1242.json.gz +bn_all_1243.json.gz +bn_all_1244.json.gz +bn_all_1245.json.gz +bn_all_1246.json.gz +bn_all_1247.json.gz +bn_all_1248.json.gz +bn_all_1249.json.gz +bn_all_1250.json.gz +bn_all_1251.json.gz +bn_all_1252.json.gz +bn_all_1253.json.gz +bn_all_1254.json.gz +bn_all_1255.json.gz +bn_all_1256.json.gz +bn_all_1257.json.gz +bn_all_1258.json.gz +bn_all_1259.json.gz +bn_all_1260.json.gz +bn_all_1261.json.gz +bn_all_1262.json.gz +bn_all_1263.json.gz +bn_all_1264.json.gz +bn_all_1265.json.gz +bn_all_1266.json.gz +bn_all_1267.json.gz +bn_all_1268.json.gz +bn_all_1269.json.gz +bn_all_1270.json.gz +bn_all_1271.json.gz +bn_all_1272.json.gz +bn_all_1273.json.gz +bn_all_1274.json.gz +bn_all_1275.json.gz +bn_all_1276.json.gz +bn_all_1277.json.gz +bn_all_1278.json.gz +bn_all_1279.json.gz +bn_all_1280.json.gz +bn_all_1281.json.gz +bn_all_1282.json.gz +bn_all_1283.json.gz +bn_all_1284.json.gz +bn_all_1285.json.gz +bn_all_1286.json.gz +bn_all_1287.json.gz +bn_all_1288.json.gz +bn_all_1289.json.gz +bn_all_1290.json.gz +bn_all_1291.json.gz +bn_all_1292.json.gz +bn_all_1293.json.gz +bn_all_1294.json.gz +bn_all_1295.json.gz +bn_all_1296.json.gz +bn_all_1297.json.gz +bn_all_1298.json.gz +bn_all_1299.json.gz +bn_all_1300.json.gz +bn_all_1301.json.gz +bn_all_1302.json.gz +bn_all_1303.json.gz +bn_all_1304.json.gz +bn_all_1305.json.gz +bn_all_1306.json.gz +bn_all_1307.json.gz +bn_all_1308.json.gz +bn_all_1309.json.gz +bn_all_1310.json.gz +bn_all_1311.json.gz +bn_all_1312.json.gz +bn_all_1313.json.gz +bn_all_1314.json.gz +bn_all_1315.json.gz +bn_all_1316.json.gz +bn_all_1317.json.gz +bn_all_1318.json.gz +bn_all_1319.json.gz +bn_all_1320.json.gz +bn_all_1321.json.gz +bn_all_1322.json.gz +bn_all_1323.json.gz +bn_all_1324.json.gz +bn_all_1325.json.gz +bn_all_1326.json.gz +bn_all_1327.json.gz +bn_all_1328.json.gz +bn_all_1329.json.gz +bn_all_1330.json.gz +bn_all_1331.json.gz +bn_all_1332.json.gz +bn_all_1333.json.gz +bn_all_1334.json.gz +bn_all_1335.json.gz +bn_all_1336.json.gz +bn_all_1337.json.gz +bn_all_1338.json.gz +bn_all_1339.json.gz +bn_all_1340.json.gz +bn_all_1341.json.gz +bn_all_1342.json.gz +bn_all_1343.json.gz +bn_all_1344.json.gz +bn_all_1345.json.gz +bn_all_1346.json.gz +bn_all_1347.json.gz +bn_all_1348.json.gz +bn_all_1349.json.gz +bn_all_1350.json.gz +bn_all_1351.json.gz +bn_all_1352.json.gz +bn_all_1353.json.gz +bn_all_1354.json.gz +bn_all_1355.json.gz +bn_all_1356.json.gz +bn_all_1357.json.gz +bn_all_1358.json.gz +bn_all_1359.json.gz +bn_all_1360.json.gz +bn_all_1361.json.gz +bn_all_1362.json.gz +bn_all_1363.json.gz +bn_all_1364.json.gz +bn_all_1365.json.gz +bn_all_1366.json.gz +bn_all_1367.json.gz +bn_all_1368.json.gz +bn_all_1369.json.gz +bn_all_1370.json.gz +bn_all_1371.json.gz +bn_all_1372.json.gz +bn_all_1373.json.gz +bn_all_1374.json.gz +bn_all_1375.json.gz +bn_all_1376.json.gz +bn_all_1377.json.gz +bn_all_1378.json.gz +bn_all_1379.json.gz +bn_all_1380.json.gz +bn_all_1381.json.gz +bn_all_1382.json.gz +bn_all_1383.json.gz +bn_all_1384.json.gz +bn_all_1385.json.gz +bn_all_1386.json.gz +bn_all_1387.json.gz +bn_all_1388.json.gz +bn_all_1389.json.gz +bn_all_1390.json.gz +bn_all_1391.json.gz +bn_all_1392.json.gz +bn_all_1393.json.gz +bn_all_1394.json.gz +bn_all_1395.json.gz +bn_all_1396.json.gz +bn_all_1397.json.gz +bn_all_1398.json.gz +bn_all_1399.json.gz +bn_all_1400.json.gz +bn_all_1401.json.gz +bn_all_1402.json.gz +bn_all_1403.json.gz +bn_all_1404.json.gz +bn_all_1405.json.gz +bn_all_1406.json.gz +bn_all_1407.json.gz +bn_all_1408.json.gz +bn_all_1409.json.gz +bn_all_1410.json.gz +bn_all_1411.json.gz +bn_all_1412.json.gz +bn_all_1413.json.gz +bn_all_1414.json.gz +bn_all_1415.json.gz +bn_all_1416.json.gz +bn_all_1417.json.gz +bn_all_1418.json.gz +bn_all_1419.json.gz +bn_all_1420.json.gz +bn_all_1421.json.gz +bn_all_1422.json.gz +bn_all_1423.json.gz +bn_all_1424.json.gz +bn_all_1425.json.gz +bn_all_1426.json.gz +bn_all_1427.json.gz +bn_all_1428.json.gz +bn_all_1429.json.gz +bn_all_1430.json.gz +bn_all_1431.json.gz +bn_all_1432.json.gz +bn_all_1433.json.gz +bn_all_1434.json.gz +bn_all_1435.json.gz +bn_all_1436.json.gz +bn_all_1437.json.gz +bn_all_1438.json.gz +bn_all_1439.json.gz +bn_all_1440.json.gz +bn_all_1441.json.gz +bn_all_1442.json.gz +bn_all_1443.json.gz +bn_all_1444.json.gz +bn_all_1445.json.gz +bn_all_1446.json.gz +bn_all_1447.json.gz +bn_all_1448.json.gz +bn_all_1449.json.gz +bn_all_1450.json.gz +bn_all_1451.json.gz +bn_all_1452.json.gz +bn_all_1453.json.gz +bn_all_1454.json.gz +bn_all_1455.json.gz +bn_all_1456.json.gz +bn_all_1457.json.gz +bn_all_1458.json.gz +bn_all_1459.json.gz +bn_all_1460.json.gz +bn_all_1461.json.gz +bn_all_1462.json.gz +bn_all_1463.json.gz +bn_all_1464.json.gz +bn_all_1465.json.gz +bn_all_1466.json.gz +bn_all_1467.json.gz +bn_all_1468.json.gz +bn_all_1469.json.gz +bn_all_1470.json.gz +bn_all_1471.json.gz +bn_all_1472.json.gz +bn_all_1473.json.gz +bn_all_1474.json.gz +bn_all_1475.json.gz +bn_all_1476.json.gz +bn_all_1477.json.gz +bn_all_1478.json.gz +bn_all_1479.json.gz +bn_all_1480.json.gz +bn_all_1481.json.gz +bn_all_1482.json.gz +bn_all_1483.json.gz +bn_all_1484.json.gz +bn_all_1485.json.gz +bn_all_1486.json.gz +bn_all_1487.json.gz +bn_all_1488.json.gz +bn_all_1489.json.gz +bn_all_1490.json.gz +bn_all_1491.json.gz +bn_all_1492.json.gz +bn_all_1493.json.gz +bn_all_1494.json.gz +bn_all_1495.json.gz +bn_all_1496.json.gz +bn_all_1497.json.gz +bn_all_1498.json.gz +bn_all_1499.json.gz +bn_all_1500.json.gz +bn_all_1501.json.gz +bn_all_1502.json.gz +bn_all_1503.json.gz +bn_all_1504.json.gz +bn_all_1505.json.gz +bn_all_1506.json.gz +bn_all_1507.json.gz +bn_all_1508.json.gz +bn_all_1509.json.gz +bn_all_1510.json.gz +bn_all_1511.json.gz +bn_all_1512.json.gz +bn_all_1513.json.gz +bn_all_1514.json.gz +bn_all_1515.json.gz +bn_all_1516.json.gz +bn_all_1517.json.gz +bn_all_1518.json.gz +bn_all_1519.json.gz +bn_all_1520.json.gz +bn_all_1521.json.gz +bn_all_1522.json.gz +bn_all_1523.json.gz +bn_all_1524.json.gz +bn_all_1525.json.gz +bn_all_1526.json.gz +bn_all_1527.json.gz +bn_all_1528.json.gz +bn_all_1529.json.gz +bn_all_1530.json.gz +bn_all_1531.json.gz +bn_all_1532.json.gz +bn_all_1533.json.gz +bn_all_1534.json.gz +bn_all_1535.json.gz +bn_all_1536.json.gz +bn_all_1537.json.gz +bn_all_1538.json.gz +bn_all_1539.json.gz +bn_all_1540.json.gz +bn_all_1541.json.gz +bn_all_1542.json.gz +bn_all_1543.json.gz +bn_all_1544.json.gz +bn_all_1545.json.gz +bn_all_1546.json.gz +bn_all_1547.json.gz +bn_all_1548.json.gz +bn_all_1549.json.gz +bn_all_1550.json.gz +bn_all_1551.json.gz +bn_all_1552.json.gz +bn_all_1553.json.gz +bn_all_1554.json.gz +bn_all_1555.json.gz +bn_all_1556.json.gz +bn_all_1557.json.gz +bn_all_1558.json.gz +bn_all_1559.json.gz +bn_all_1560.json.gz +bn_all_1561.json.gz +bn_all_1562.json.gz +bn_all_1563.json.gz +bn_all_1564.json.gz +bn_all_1565.json.gz +bn_all_1566.json.gz +bn_all_1567.json.gz +bn_all_1568.json.gz +bn_all_1569.json.gz +bn_all_1570.json.gz +bn_all_1571.json.gz +bn_all_1572.json.gz +bn_all_1573.json.gz +bn_all_1574.json.gz +bn_all_1575.json.gz +bn_all_1576.json.gz +bn_all_1577.json.gz +bn_all_1578.json.gz +bn_all_1579.json.gz +bn_all_1580.json.gz +bn_all_1581.json.gz +bn_all_1582.json.gz +bn_all_1583.json.gz +bn_all_1584.json.gz +bn_all_1585.json.gz +bn_all_1586.json.gz +bn_all_1587.json.gz +bn_all_1588.json.gz +bn_all_1589.json.gz +bn_all_1590.json.gz +bn_all_1591.json.gz +bn_all_1592.json.gz +bn_all_1593.json.gz +bn_all_1594.json.gz +bn_all_1595.json.gz +bn_all_1596.json.gz +bn_all_1597.json.gz +bn_all_1598.json.gz +bn_all_1599.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/gu.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/gu.txt new file mode 100644 index 0000000000000000000000000000000000000000..079eb5f264890e1f287e4ea6878c494b529210d9 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2021-49/gu.txt @@ -0,0 +1,534 @@ +gu_all_0000.json.gz +gu_all_0001.json.gz +gu_all_0002.json.gz +gu_all_0003.json.gz +gu_all_0004.json.gz +gu_all_0005.json.gz +gu_all_0006.json.gz +gu_all_0007.json.gz +gu_all_0008.json.gz +gu_all_0009.json.gz +gu_all_0010.json.gz +gu_all_0011.json.gz +gu_all_0012.json.gz +gu_all_0013.json.gz +gu_all_0014.json.gz +gu_all_0015.json.gz +gu_all_0016.json.gz +gu_all_0017.json.gz +gu_all_0018.json.gz +gu_all_0019.json.gz +gu_all_0020.json.gz +gu_all_0021.json.gz +gu_all_0022.json.gz +gu_all_0023.json.gz +gu_all_0024.json.gz +gu_all_0025.json.gz +gu_all_0026.json.gz +gu_all_0027.json.gz +gu_all_0028.json.gz +gu_all_0029.json.gz +gu_all_0030.json.gz +gu_all_0031.json.gz +gu_all_0032.json.gz +gu_all_0033.json.gz +gu_all_0034.json.gz +gu_all_0035.json.gz +gu_all_0036.json.gz +gu_all_0037.json.gz +gu_all_0038.json.gz +gu_all_0039.json.gz +gu_all_0040.json.gz +gu_all_0041.json.gz +gu_all_0042.json.gz +gu_all_0043.json.gz +gu_all_0044.json.gz +gu_all_0045.json.gz +gu_all_0046.json.gz +gu_all_0047.json.gz +gu_all_0048.json.gz +gu_all_0049.json.gz +gu_all_0050.json.gz +gu_all_0051.json.gz +gu_all_0052.json.gz +gu_all_0053.json.gz +gu_all_0054.json.gz +gu_all_0055.json.gz +gu_all_0056.json.gz +gu_all_0057.json.gz +gu_all_0058.json.gz +gu_all_0059.json.gz +gu_all_0060.json.gz +gu_all_0061.json.gz +gu_all_0062.json.gz +gu_all_0063.json.gz +gu_all_0064.json.gz +gu_all_0065.json.gz +gu_all_0066.json.gz +gu_all_0067.json.gz +gu_all_0068.json.gz +gu_all_0069.json.gz +gu_all_0070.json.gz +gu_all_0071.json.gz +gu_all_0072.json.gz +gu_all_0073.json.gz +gu_all_0074.json.gz +gu_all_0075.json.gz +gu_all_0076.json.gz +gu_all_0077.json.gz +gu_all_0078.json.gz +gu_all_0079.json.gz +gu_all_0080.json.gz +gu_all_0081.json.gz +gu_all_0082.json.gz +gu_all_0083.json.gz +gu_all_0084.json.gz +gu_all_0085.json.gz +gu_all_0086.json.gz +gu_all_0087.json.gz +gu_all_0088.json.gz +gu_all_0089.json.gz +gu_all_0090.json.gz +gu_all_0091.json.gz +gu_all_0092.json.gz +gu_all_0093.json.gz +gu_all_0094.json.gz +gu_all_0095.json.gz +gu_all_0096.json.gz +gu_all_0097.json.gz +gu_all_0098.json.gz +gu_all_0099.json.gz +gu_all_0100.json.gz +gu_all_0101.json.gz +gu_all_0102.json.gz +gu_all_0103.json.gz +gu_all_0104.json.gz +gu_all_0105.json.gz +gu_all_0106.json.gz +gu_all_0107.json.gz +gu_all_0108.json.gz +gu_all_0109.json.gz +gu_all_0110.json.gz +gu_all_0111.json.gz +gu_all_0112.json.gz +gu_all_0113.json.gz +gu_all_0114.json.gz +gu_all_0115.json.gz +gu_all_0116.json.gz +gu_all_0117.json.gz +gu_all_0118.json.gz +gu_all_0119.json.gz +gu_all_0120.json.gz +gu_all_0121.json.gz +gu_all_0122.json.gz +gu_all_0123.json.gz +gu_all_0124.json.gz +gu_all_0125.json.gz +gu_all_0126.json.gz +gu_all_0127.json.gz +gu_all_0128.json.gz +gu_all_0129.json.gz +gu_all_0130.json.gz +gu_all_0131.json.gz +gu_all_0132.json.gz +gu_all_0133.json.gz +gu_all_0134.json.gz +gu_all_0135.json.gz +gu_all_0136.json.gz +gu_all_0137.json.gz +gu_all_0138.json.gz +gu_all_0139.json.gz +gu_all_0140.json.gz +gu_all_0141.json.gz +gu_all_0142.json.gz +gu_all_0143.json.gz +gu_all_0144.json.gz +gu_all_0145.json.gz +gu_all_0146.json.gz +gu_all_0147.json.gz +gu_all_0148.json.gz +gu_all_0149.json.gz +gu_all_0150.json.gz +gu_all_0151.json.gz +gu_all_0152.json.gz +gu_all_0153.json.gz +gu_all_0154.json.gz +gu_all_0155.json.gz +gu_all_0156.json.gz +gu_all_0157.json.gz +gu_all_0158.json.gz +gu_all_0159.json.gz +gu_all_0160.json.gz +gu_all_0161.json.gz +gu_all_0162.json.gz +gu_all_0163.json.gz +gu_all_0164.json.gz +gu_all_0165.json.gz +gu_all_0166.json.gz +gu_all_0167.json.gz +gu_all_0168.json.gz +gu_all_0169.json.gz +gu_all_0170.json.gz +gu_all_0171.json.gz +gu_all_0172.json.gz +gu_all_0173.json.gz +gu_all_0174.json.gz +gu_all_0175.json.gz +gu_all_0176.json.gz +gu_all_0177.json.gz +gu_all_0178.json.gz +gu_all_0179.json.gz +gu_all_0180.json.gz +gu_all_0181.json.gz +gu_all_0182.json.gz +gu_all_0183.json.gz +gu_all_0184.json.gz +gu_all_0185.json.gz +gu_all_0186.json.gz +gu_all_0187.json.gz +gu_all_0188.json.gz +gu_all_0189.json.gz +gu_all_0190.json.gz +gu_all_0191.json.gz +gu_all_0192.json.gz +gu_all_0193.json.gz +gu_all_0194.json.gz +gu_all_0195.json.gz +gu_all_0196.json.gz +gu_all_0197.json.gz +gu_all_0198.json.gz +gu_all_0199.json.gz +gu_all_0200.json.gz +gu_all_0201.json.gz +gu_all_0202.json.gz +gu_all_0203.json.gz +gu_all_0204.json.gz +gu_all_0205.json.gz +gu_all_0206.json.gz +gu_all_0207.json.gz +gu_all_0208.json.gz +gu_all_0209.json.gz +gu_all_0210.json.gz +gu_all_0211.json.gz +gu_all_0212.json.gz +gu_all_0213.json.gz +gu_all_0214.json.gz +gu_all_0215.json.gz +gu_all_0216.json.gz +gu_all_0217.json.gz +gu_all_0218.json.gz +gu_all_0219.json.gz +gu_all_0220.json.gz +gu_all_0221.json.gz +gu_all_0222.json.gz +gu_all_0223.json.gz +gu_all_0224.json.gz +gu_all_0225.json.gz +gu_all_0226.json.gz +gu_all_0227.json.gz +gu_all_0228.json.gz +gu_all_0229.json.gz +gu_all_0230.json.gz +gu_all_0231.json.gz +gu_all_0232.json.gz +gu_all_0233.json.gz +gu_all_0234.json.gz +gu_all_0235.json.gz +gu_all_0236.json.gz +gu_all_0237.json.gz +gu_all_0238.json.gz +gu_all_0239.json.gz +gu_all_0240.json.gz +gu_all_0241.json.gz +gu_all_0242.json.gz +gu_all_0243.json.gz +gu_all_0244.json.gz +gu_all_0245.json.gz +gu_all_0246.json.gz +gu_all_0247.json.gz +gu_all_0248.json.gz +gu_all_0249.json.gz +gu_all_0250.json.gz +gu_all_0251.json.gz +gu_all_0252.json.gz +gu_all_0253.json.gz +gu_all_0254.json.gz +gu_all_0255.json.gz +gu_all_0256.json.gz +gu_all_0257.json.gz +gu_all_0258.json.gz +gu_all_0259.json.gz +gu_all_0260.json.gz +gu_all_0261.json.gz +gu_all_0262.json.gz +gu_all_0263.json.gz +gu_all_0264.json.gz +gu_all_0265.json.gz +gu_all_0266.json.gz +gu_all_0267.json.gz +gu_all_0268.json.gz +gu_all_0269.json.gz +gu_all_0270.json.gz +gu_all_0271.json.gz +gu_all_0272.json.gz +gu_all_0273.json.gz +gu_all_0274.json.gz +gu_all_0275.json.gz +gu_all_0276.json.gz +gu_all_0277.json.gz +gu_all_0278.json.gz +gu_all_0279.json.gz +gu_all_0280.json.gz +gu_all_0281.json.gz +gu_all_0282.json.gz +gu_all_0283.json.gz +gu_all_0284.json.gz +gu_all_0285.json.gz +gu_all_0286.json.gz +gu_all_0287.json.gz +gu_all_0288.json.gz +gu_all_0289.json.gz +gu_all_0290.json.gz +gu_all_0291.json.gz +gu_all_0292.json.gz +gu_all_0293.json.gz +gu_all_0294.json.gz +gu_all_0295.json.gz +gu_all_0296.json.gz +gu_all_0297.json.gz +gu_all_0298.json.gz +gu_all_0299.json.gz +gu_all_0300.json.gz +gu_all_0301.json.gz +gu_all_0302.json.gz +gu_all_0303.json.gz +gu_all_0304.json.gz +gu_all_0305.json.gz +gu_all_0306.json.gz +gu_all_0307.json.gz +gu_all_0308.json.gz +gu_all_0309.json.gz +gu_all_0310.json.gz +gu_all_0311.json.gz +gu_all_0312.json.gz +gu_all_0313.json.gz +gu_all_0314.json.gz +gu_all_0315.json.gz +gu_all_0316.json.gz +gu_all_0317.json.gz +gu_all_0318.json.gz +gu_all_0319.json.gz +gu_all_0320.json.gz +gu_all_0321.json.gz +gu_all_0322.json.gz +gu_all_0323.json.gz +gu_all_0324.json.gz +gu_all_0325.json.gz +gu_all_0326.json.gz +gu_all_0327.json.gz +gu_all_0328.json.gz +gu_all_0329.json.gz +gu_all_0330.json.gz +gu_all_0331.json.gz +gu_all_0332.json.gz +gu_all_0333.json.gz +gu_all_0334.json.gz +gu_all_0335.json.gz +gu_all_0336.json.gz +gu_all_0337.json.gz +gu_all_0338.json.gz +gu_all_0339.json.gz +gu_all_0340.json.gz +gu_all_0341.json.gz +gu_all_0342.json.gz +gu_all_0343.json.gz +gu_all_0344.json.gz +gu_all_0345.json.gz +gu_all_0346.json.gz +gu_all_0347.json.gz +gu_all_0348.json.gz +gu_all_0349.json.gz +gu_all_0350.json.gz +gu_all_0351.json.gz +gu_all_0352.json.gz +gu_all_0353.json.gz +gu_all_0354.json.gz +gu_all_0355.json.gz +gu_all_0356.json.gz +gu_all_0357.json.gz +gu_all_0358.json.gz +gu_all_0359.json.gz +gu_all_0360.json.gz +gu_all_0361.json.gz +gu_all_0362.json.gz +gu_all_0363.json.gz +gu_all_0364.json.gz +gu_all_0365.json.gz +gu_all_0366.json.gz +gu_all_0367.json.gz +gu_all_0368.json.gz +gu_all_0369.json.gz +gu_all_0370.json.gz +gu_all_0371.json.gz +gu_all_0372.json.gz +gu_all_0373.json.gz +gu_all_0374.json.gz +gu_all_0375.json.gz +gu_all_0376.json.gz +gu_all_0377.json.gz +gu_all_0378.json.gz +gu_all_0379.json.gz +gu_all_0380.json.gz +gu_all_0381.json.gz +gu_all_0382.json.gz +gu_all_0383.json.gz +gu_all_0384.json.gz +gu_all_0385.json.gz +gu_all_0386.json.gz +gu_all_0387.json.gz +gu_all_0388.json.gz +gu_all_0389.json.gz +gu_all_0390.json.gz +gu_all_0391.json.gz +gu_all_0392.json.gz +gu_all_0393.json.gz +gu_all_0394.json.gz +gu_all_0395.json.gz +gu_all_0396.json.gz +gu_all_0397.json.gz +gu_all_0398.json.gz +gu_all_0399.json.gz +gu_all_0400.json.gz +gu_all_0401.json.gz +gu_all_0402.json.gz +gu_all_0403.json.gz +gu_all_0404.json.gz +gu_all_0405.json.gz +gu_all_0406.json.gz +gu_all_0407.json.gz +gu_all_0408.json.gz +gu_all_0409.json.gz +gu_all_0410.json.gz +gu_all_0411.json.gz +gu_all_0412.json.gz +gu_all_0413.json.gz +gu_all_0414.json.gz +gu_all_0415.json.gz +gu_all_0416.json.gz +gu_all_0417.json.gz +gu_all_0418.json.gz +gu_all_0419.json.gz +gu_all_0420.json.gz +gu_all_0421.json.gz +gu_all_0422.json.gz +gu_all_0423.json.gz +gu_all_0424.json.gz +gu_all_0425.json.gz +gu_all_0426.json.gz +gu_all_0427.json.gz +gu_all_0428.json.gz +gu_all_0429.json.gz +gu_all_0430.json.gz +gu_all_0431.json.gz +gu_all_0432.json.gz +gu_all_0433.json.gz +gu_all_0434.json.gz +gu_all_0435.json.gz +gu_all_0436.json.gz +gu_all_0437.json.gz +gu_all_0438.json.gz +gu_all_0439.json.gz +gu_all_0440.json.gz +gu_all_0441.json.gz +gu_all_0442.json.gz +gu_all_0443.json.gz +gu_all_0444.json.gz +gu_all_0445.json.gz +gu_all_0446.json.gz +gu_all_0447.json.gz +gu_all_0448.json.gz +gu_all_0449.json.gz +gu_all_0450.json.gz +gu_all_0451.json.gz +gu_all_0452.json.gz +gu_all_0453.json.gz +gu_all_0454.json.gz +gu_all_0455.json.gz +gu_all_0456.json.gz +gu_all_0457.json.gz +gu_all_0458.json.gz +gu_all_0459.json.gz +gu_all_0460.json.gz +gu_all_0461.json.gz +gu_all_0462.json.gz +gu_all_0463.json.gz +gu_all_0464.json.gz +gu_all_0465.json.gz +gu_all_0466.json.gz +gu_all_0467.json.gz +gu_all_0468.json.gz +gu_all_0469.json.gz +gu_all_0470.json.gz +gu_all_0471.json.gz +gu_all_0472.json.gz +gu_all_0473.json.gz +gu_all_0474.json.gz +gu_all_0475.json.gz +gu_all_0476.json.gz +gu_all_0477.json.gz +gu_all_0478.json.gz +gu_all_0479.json.gz +gu_all_0480.json.gz +gu_all_0481.json.gz +gu_all_0482.json.gz +gu_all_0483.json.gz +gu_all_0484.json.gz +gu_all_0485.json.gz +gu_all_0486.json.gz +gu_all_0487.json.gz +gu_all_0488.json.gz +gu_all_0489.json.gz +gu_all_0490.json.gz +gu_all_0491.json.gz +gu_all_0492.json.gz +gu_all_0493.json.gz +gu_all_0494.json.gz +gu_all_0495.json.gz +gu_all_0496.json.gz +gu_all_0497.json.gz +gu_all_0498.json.gz +gu_all_0499.json.gz +gu_all_0500.json.gz +gu_all_0501.json.gz +gu_all_0502.json.gz +gu_all_0503.json.gz +gu_all_0504.json.gz +gu_all_0505.json.gz +gu_all_0506.json.gz +gu_all_0507.json.gz +gu_all_0508.json.gz +gu_all_0509.json.gz +gu_all_0510.json.gz +gu_all_0511.json.gz +gu_all_0512.json.gz +gu_all_0513.json.gz +gu_all_0514.json.gz +gu_all_0515.json.gz +gu_all_0516.json.gz +gu_all_0517.json.gz +gu_all_0518.json.gz +gu_all_0519.json.gz +gu_all_0520.json.gz +gu_all_0521.json.gz +gu_all_0522.json.gz +gu_all_0523.json.gz +gu_all_0524.json.gz +gu_all_0525.json.gz +gu_all_0526.json.gz +gu_all_0527.json.gz +gu_all_0528.json.gz +gu_all_0529.json.gz +gu_all_0530.json.gz +gu_all_0531.json.gz +gu_all_0532.json.gz +gu_all_0533.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/as.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/as.txt new file mode 100644 index 0000000000000000000000000000000000000000..3f6641737e818f64d2d6375bcaf1b50b1d45146f --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/as.txt @@ -0,0 +1,43 @@ +as_all_0000.json.gz +as_all_0001.json.gz +as_all_0002.json.gz +as_all_0003.json.gz +as_all_0004.json.gz +as_all_0005.json.gz +as_all_0006.json.gz +as_all_0007.json.gz +as_all_0008.json.gz +as_all_0009.json.gz +as_all_0010.json.gz +as_all_0011.json.gz +as_all_0012.json.gz +as_all_0013.json.gz +as_all_0014.json.gz +as_all_0015.json.gz +as_all_0016.json.gz +as_all_0017.json.gz +as_all_0018.json.gz +as_all_0019.json.gz +as_all_0020.json.gz +as_all_0021.json.gz +as_all_0022.json.gz +as_all_0023.json.gz +as_all_0024.json.gz +as_all_0025.json.gz +as_all_0026.json.gz +as_all_0027.json.gz +as_all_0028.json.gz +as_all_0029.json.gz +as_all_0030.json.gz +as_all_0031.json.gz +as_all_0032.json.gz +as_all_0033.json.gz +as_all_0034.json.gz +as_all_0035.json.gz +as_all_0036.json.gz +as_all_0037.json.gz +as_all_0038.json.gz +as_all_0039.json.gz +as_all_0040.json.gz +as_all_0041.json.gz +as_all_0042.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/bn.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/bn.txt new file mode 100644 index 0000000000000000000000000000000000000000..02b460dee0b848051c8ee18525f694e63bb63179 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/bn.txt @@ -0,0 +1,1600 @@ +bn_all_0000.json.gz +bn_all_0001.json.gz +bn_all_0002.json.gz +bn_all_0003.json.gz +bn_all_0004.json.gz +bn_all_0005.json.gz +bn_all_0006.json.gz +bn_all_0007.json.gz +bn_all_0008.json.gz +bn_all_0009.json.gz +bn_all_0010.json.gz +bn_all_0011.json.gz +bn_all_0012.json.gz +bn_all_0013.json.gz +bn_all_0014.json.gz +bn_all_0015.json.gz +bn_all_0016.json.gz +bn_all_0017.json.gz +bn_all_0018.json.gz +bn_all_0019.json.gz +bn_all_0020.json.gz +bn_all_0021.json.gz +bn_all_0022.json.gz +bn_all_0023.json.gz +bn_all_0024.json.gz +bn_all_0025.json.gz +bn_all_0026.json.gz +bn_all_0027.json.gz +bn_all_0028.json.gz +bn_all_0029.json.gz +bn_all_0030.json.gz +bn_all_0031.json.gz +bn_all_0032.json.gz +bn_all_0033.json.gz +bn_all_0034.json.gz +bn_all_0035.json.gz +bn_all_0036.json.gz +bn_all_0037.json.gz +bn_all_0038.json.gz +bn_all_0039.json.gz +bn_all_0040.json.gz +bn_all_0041.json.gz +bn_all_0042.json.gz +bn_all_0043.json.gz +bn_all_0044.json.gz +bn_all_0045.json.gz +bn_all_0046.json.gz +bn_all_0047.json.gz +bn_all_0048.json.gz +bn_all_0049.json.gz +bn_all_0050.json.gz +bn_all_0051.json.gz +bn_all_0052.json.gz +bn_all_0053.json.gz +bn_all_0054.json.gz +bn_all_0055.json.gz +bn_all_0056.json.gz +bn_all_0057.json.gz +bn_all_0058.json.gz +bn_all_0059.json.gz +bn_all_0060.json.gz +bn_all_0061.json.gz +bn_all_0062.json.gz +bn_all_0063.json.gz +bn_all_0064.json.gz +bn_all_0065.json.gz +bn_all_0066.json.gz +bn_all_0067.json.gz +bn_all_0068.json.gz +bn_all_0069.json.gz +bn_all_0070.json.gz +bn_all_0071.json.gz +bn_all_0072.json.gz +bn_all_0073.json.gz +bn_all_0074.json.gz +bn_all_0075.json.gz +bn_all_0076.json.gz +bn_all_0077.json.gz +bn_all_0078.json.gz +bn_all_0079.json.gz +bn_all_0080.json.gz +bn_all_0081.json.gz +bn_all_0082.json.gz +bn_all_0083.json.gz +bn_all_0084.json.gz +bn_all_0085.json.gz +bn_all_0086.json.gz +bn_all_0087.json.gz +bn_all_0088.json.gz +bn_all_0089.json.gz +bn_all_0090.json.gz +bn_all_0091.json.gz +bn_all_0092.json.gz +bn_all_0093.json.gz +bn_all_0094.json.gz +bn_all_0095.json.gz +bn_all_0096.json.gz +bn_all_0097.json.gz +bn_all_0098.json.gz +bn_all_0099.json.gz +bn_all_0100.json.gz +bn_all_0101.json.gz +bn_all_0102.json.gz +bn_all_0103.json.gz +bn_all_0104.json.gz +bn_all_0105.json.gz +bn_all_0106.json.gz +bn_all_0107.json.gz +bn_all_0108.json.gz +bn_all_0109.json.gz +bn_all_0110.json.gz +bn_all_0111.json.gz +bn_all_0112.json.gz +bn_all_0113.json.gz +bn_all_0114.json.gz +bn_all_0115.json.gz +bn_all_0116.json.gz +bn_all_0117.json.gz +bn_all_0118.json.gz +bn_all_0119.json.gz +bn_all_0120.json.gz +bn_all_0121.json.gz +bn_all_0122.json.gz +bn_all_0123.json.gz +bn_all_0124.json.gz +bn_all_0125.json.gz +bn_all_0126.json.gz +bn_all_0127.json.gz +bn_all_0128.json.gz +bn_all_0129.json.gz +bn_all_0130.json.gz +bn_all_0131.json.gz +bn_all_0132.json.gz +bn_all_0133.json.gz +bn_all_0134.json.gz +bn_all_0135.json.gz +bn_all_0136.json.gz +bn_all_0137.json.gz +bn_all_0138.json.gz +bn_all_0139.json.gz +bn_all_0140.json.gz +bn_all_0141.json.gz +bn_all_0142.json.gz +bn_all_0143.json.gz +bn_all_0144.json.gz +bn_all_0145.json.gz +bn_all_0146.json.gz +bn_all_0147.json.gz +bn_all_0148.json.gz +bn_all_0149.json.gz +bn_all_0150.json.gz +bn_all_0151.json.gz +bn_all_0152.json.gz +bn_all_0153.json.gz +bn_all_0154.json.gz +bn_all_0155.json.gz +bn_all_0156.json.gz +bn_all_0157.json.gz +bn_all_0158.json.gz +bn_all_0159.json.gz +bn_all_0160.json.gz +bn_all_0161.json.gz +bn_all_0162.json.gz +bn_all_0163.json.gz +bn_all_0164.json.gz +bn_all_0165.json.gz +bn_all_0166.json.gz +bn_all_0167.json.gz +bn_all_0168.json.gz +bn_all_0169.json.gz +bn_all_0170.json.gz +bn_all_0171.json.gz +bn_all_0172.json.gz +bn_all_0173.json.gz +bn_all_0174.json.gz +bn_all_0175.json.gz +bn_all_0176.json.gz +bn_all_0177.json.gz +bn_all_0178.json.gz +bn_all_0179.json.gz +bn_all_0180.json.gz +bn_all_0181.json.gz +bn_all_0182.json.gz +bn_all_0183.json.gz +bn_all_0184.json.gz +bn_all_0185.json.gz +bn_all_0186.json.gz +bn_all_0187.json.gz +bn_all_0188.json.gz +bn_all_0189.json.gz +bn_all_0190.json.gz +bn_all_0191.json.gz +bn_all_0192.json.gz +bn_all_0193.json.gz +bn_all_0194.json.gz +bn_all_0195.json.gz +bn_all_0196.json.gz +bn_all_0197.json.gz +bn_all_0198.json.gz +bn_all_0199.json.gz +bn_all_0200.json.gz +bn_all_0201.json.gz +bn_all_0202.json.gz +bn_all_0203.json.gz +bn_all_0204.json.gz +bn_all_0205.json.gz +bn_all_0206.json.gz +bn_all_0207.json.gz +bn_all_0208.json.gz +bn_all_0209.json.gz +bn_all_0210.json.gz +bn_all_0211.json.gz +bn_all_0212.json.gz +bn_all_0213.json.gz +bn_all_0214.json.gz +bn_all_0215.json.gz +bn_all_0216.json.gz +bn_all_0217.json.gz +bn_all_0218.json.gz +bn_all_0219.json.gz +bn_all_0220.json.gz +bn_all_0221.json.gz +bn_all_0222.json.gz +bn_all_0223.json.gz +bn_all_0224.json.gz +bn_all_0225.json.gz +bn_all_0226.json.gz +bn_all_0227.json.gz +bn_all_0228.json.gz +bn_all_0229.json.gz +bn_all_0230.json.gz +bn_all_0231.json.gz +bn_all_0232.json.gz +bn_all_0233.json.gz +bn_all_0234.json.gz +bn_all_0235.json.gz +bn_all_0236.json.gz +bn_all_0237.json.gz +bn_all_0238.json.gz +bn_all_0239.json.gz +bn_all_0240.json.gz +bn_all_0241.json.gz +bn_all_0242.json.gz +bn_all_0243.json.gz +bn_all_0244.json.gz +bn_all_0245.json.gz +bn_all_0246.json.gz +bn_all_0247.json.gz +bn_all_0248.json.gz +bn_all_0249.json.gz +bn_all_0250.json.gz +bn_all_0251.json.gz +bn_all_0252.json.gz +bn_all_0253.json.gz +bn_all_0254.json.gz +bn_all_0255.json.gz +bn_all_0256.json.gz +bn_all_0257.json.gz +bn_all_0258.json.gz +bn_all_0259.json.gz +bn_all_0260.json.gz +bn_all_0261.json.gz +bn_all_0262.json.gz +bn_all_0263.json.gz +bn_all_0264.json.gz +bn_all_0265.json.gz +bn_all_0266.json.gz +bn_all_0267.json.gz +bn_all_0268.json.gz +bn_all_0269.json.gz +bn_all_0270.json.gz +bn_all_0271.json.gz +bn_all_0272.json.gz +bn_all_0273.json.gz +bn_all_0274.json.gz +bn_all_0275.json.gz +bn_all_0276.json.gz +bn_all_0277.json.gz +bn_all_0278.json.gz +bn_all_0279.json.gz +bn_all_0280.json.gz +bn_all_0281.json.gz +bn_all_0282.json.gz +bn_all_0283.json.gz +bn_all_0284.json.gz +bn_all_0285.json.gz +bn_all_0286.json.gz +bn_all_0287.json.gz +bn_all_0288.json.gz +bn_all_0289.json.gz +bn_all_0290.json.gz +bn_all_0291.json.gz +bn_all_0292.json.gz +bn_all_0293.json.gz +bn_all_0294.json.gz +bn_all_0295.json.gz +bn_all_0296.json.gz +bn_all_0297.json.gz +bn_all_0298.json.gz +bn_all_0299.json.gz +bn_all_0300.json.gz +bn_all_0301.json.gz +bn_all_0302.json.gz +bn_all_0303.json.gz +bn_all_0304.json.gz +bn_all_0305.json.gz +bn_all_0306.json.gz +bn_all_0307.json.gz +bn_all_0308.json.gz +bn_all_0309.json.gz +bn_all_0310.json.gz +bn_all_0311.json.gz +bn_all_0312.json.gz +bn_all_0313.json.gz +bn_all_0314.json.gz +bn_all_0315.json.gz +bn_all_0316.json.gz +bn_all_0317.json.gz +bn_all_0318.json.gz +bn_all_0319.json.gz +bn_all_0320.json.gz +bn_all_0321.json.gz +bn_all_0322.json.gz +bn_all_0323.json.gz +bn_all_0324.json.gz +bn_all_0325.json.gz +bn_all_0326.json.gz +bn_all_0327.json.gz +bn_all_0328.json.gz +bn_all_0329.json.gz +bn_all_0330.json.gz +bn_all_0331.json.gz +bn_all_0332.json.gz +bn_all_0333.json.gz +bn_all_0334.json.gz +bn_all_0335.json.gz +bn_all_0336.json.gz +bn_all_0337.json.gz +bn_all_0338.json.gz +bn_all_0339.json.gz +bn_all_0340.json.gz +bn_all_0341.json.gz +bn_all_0342.json.gz +bn_all_0343.json.gz +bn_all_0344.json.gz +bn_all_0345.json.gz +bn_all_0346.json.gz +bn_all_0347.json.gz +bn_all_0348.json.gz +bn_all_0349.json.gz +bn_all_0350.json.gz +bn_all_0351.json.gz +bn_all_0352.json.gz +bn_all_0353.json.gz +bn_all_0354.json.gz +bn_all_0355.json.gz +bn_all_0356.json.gz +bn_all_0357.json.gz +bn_all_0358.json.gz +bn_all_0359.json.gz +bn_all_0360.json.gz +bn_all_0361.json.gz +bn_all_0362.json.gz +bn_all_0363.json.gz +bn_all_0364.json.gz +bn_all_0365.json.gz +bn_all_0366.json.gz +bn_all_0367.json.gz +bn_all_0368.json.gz +bn_all_0369.json.gz +bn_all_0370.json.gz +bn_all_0371.json.gz +bn_all_0372.json.gz +bn_all_0373.json.gz +bn_all_0374.json.gz +bn_all_0375.json.gz +bn_all_0376.json.gz +bn_all_0377.json.gz +bn_all_0378.json.gz +bn_all_0379.json.gz +bn_all_0380.json.gz +bn_all_0381.json.gz +bn_all_0382.json.gz +bn_all_0383.json.gz +bn_all_0384.json.gz +bn_all_0385.json.gz +bn_all_0386.json.gz +bn_all_0387.json.gz +bn_all_0388.json.gz +bn_all_0389.json.gz +bn_all_0390.json.gz +bn_all_0391.json.gz +bn_all_0392.json.gz +bn_all_0393.json.gz +bn_all_0394.json.gz +bn_all_0395.json.gz +bn_all_0396.json.gz +bn_all_0397.json.gz +bn_all_0398.json.gz +bn_all_0399.json.gz +bn_all_0400.json.gz +bn_all_0401.json.gz +bn_all_0402.json.gz +bn_all_0403.json.gz +bn_all_0404.json.gz +bn_all_0405.json.gz +bn_all_0406.json.gz +bn_all_0407.json.gz +bn_all_0408.json.gz +bn_all_0409.json.gz +bn_all_0410.json.gz +bn_all_0411.json.gz +bn_all_0412.json.gz +bn_all_0413.json.gz +bn_all_0414.json.gz +bn_all_0415.json.gz +bn_all_0416.json.gz +bn_all_0417.json.gz +bn_all_0418.json.gz +bn_all_0419.json.gz +bn_all_0420.json.gz +bn_all_0421.json.gz +bn_all_0422.json.gz +bn_all_0423.json.gz +bn_all_0424.json.gz +bn_all_0425.json.gz +bn_all_0426.json.gz +bn_all_0427.json.gz +bn_all_0428.json.gz +bn_all_0429.json.gz +bn_all_0430.json.gz +bn_all_0431.json.gz +bn_all_0432.json.gz +bn_all_0433.json.gz +bn_all_0434.json.gz +bn_all_0435.json.gz +bn_all_0436.json.gz +bn_all_0437.json.gz +bn_all_0438.json.gz +bn_all_0439.json.gz +bn_all_0440.json.gz +bn_all_0441.json.gz +bn_all_0442.json.gz +bn_all_0443.json.gz +bn_all_0444.json.gz +bn_all_0445.json.gz +bn_all_0446.json.gz +bn_all_0447.json.gz +bn_all_0448.json.gz +bn_all_0449.json.gz +bn_all_0450.json.gz +bn_all_0451.json.gz +bn_all_0452.json.gz +bn_all_0453.json.gz +bn_all_0454.json.gz +bn_all_0455.json.gz +bn_all_0456.json.gz +bn_all_0457.json.gz +bn_all_0458.json.gz +bn_all_0459.json.gz +bn_all_0460.json.gz +bn_all_0461.json.gz +bn_all_0462.json.gz +bn_all_0463.json.gz +bn_all_0464.json.gz +bn_all_0465.json.gz +bn_all_0466.json.gz +bn_all_0467.json.gz +bn_all_0468.json.gz +bn_all_0469.json.gz +bn_all_0470.json.gz +bn_all_0471.json.gz +bn_all_0472.json.gz +bn_all_0473.json.gz +bn_all_0474.json.gz +bn_all_0475.json.gz +bn_all_0476.json.gz +bn_all_0477.json.gz +bn_all_0478.json.gz +bn_all_0479.json.gz +bn_all_0480.json.gz +bn_all_0481.json.gz +bn_all_0482.json.gz +bn_all_0483.json.gz +bn_all_0484.json.gz +bn_all_0485.json.gz +bn_all_0486.json.gz +bn_all_0487.json.gz +bn_all_0488.json.gz +bn_all_0489.json.gz +bn_all_0490.json.gz +bn_all_0491.json.gz +bn_all_0492.json.gz +bn_all_0493.json.gz +bn_all_0494.json.gz +bn_all_0495.json.gz +bn_all_0496.json.gz +bn_all_0497.json.gz +bn_all_0498.json.gz +bn_all_0499.json.gz +bn_all_0500.json.gz +bn_all_0501.json.gz +bn_all_0502.json.gz +bn_all_0503.json.gz +bn_all_0504.json.gz +bn_all_0505.json.gz +bn_all_0506.json.gz +bn_all_0507.json.gz +bn_all_0508.json.gz +bn_all_0509.json.gz +bn_all_0510.json.gz +bn_all_0511.json.gz +bn_all_0512.json.gz +bn_all_0513.json.gz +bn_all_0514.json.gz +bn_all_0515.json.gz +bn_all_0516.json.gz +bn_all_0517.json.gz +bn_all_0518.json.gz +bn_all_0519.json.gz +bn_all_0520.json.gz +bn_all_0521.json.gz +bn_all_0522.json.gz +bn_all_0523.json.gz +bn_all_0524.json.gz +bn_all_0525.json.gz +bn_all_0526.json.gz +bn_all_0527.json.gz +bn_all_0528.json.gz +bn_all_0529.json.gz +bn_all_0530.json.gz +bn_all_0531.json.gz +bn_all_0532.json.gz +bn_all_0533.json.gz +bn_all_0534.json.gz +bn_all_0535.json.gz +bn_all_0536.json.gz +bn_all_0537.json.gz +bn_all_0538.json.gz +bn_all_0539.json.gz +bn_all_0540.json.gz +bn_all_0541.json.gz +bn_all_0542.json.gz +bn_all_0543.json.gz +bn_all_0544.json.gz +bn_all_0545.json.gz +bn_all_0546.json.gz +bn_all_0547.json.gz +bn_all_0548.json.gz +bn_all_0549.json.gz +bn_all_0550.json.gz +bn_all_0551.json.gz +bn_all_0552.json.gz +bn_all_0553.json.gz +bn_all_0554.json.gz +bn_all_0555.json.gz +bn_all_0556.json.gz +bn_all_0557.json.gz +bn_all_0558.json.gz +bn_all_0559.json.gz +bn_all_0560.json.gz +bn_all_0561.json.gz +bn_all_0562.json.gz +bn_all_0563.json.gz +bn_all_0564.json.gz +bn_all_0565.json.gz +bn_all_0566.json.gz +bn_all_0567.json.gz +bn_all_0568.json.gz +bn_all_0569.json.gz +bn_all_0570.json.gz +bn_all_0571.json.gz +bn_all_0572.json.gz +bn_all_0573.json.gz +bn_all_0574.json.gz +bn_all_0575.json.gz +bn_all_0576.json.gz +bn_all_0577.json.gz +bn_all_0578.json.gz +bn_all_0579.json.gz +bn_all_0580.json.gz +bn_all_0581.json.gz +bn_all_0582.json.gz +bn_all_0583.json.gz +bn_all_0584.json.gz +bn_all_0585.json.gz +bn_all_0586.json.gz +bn_all_0587.json.gz +bn_all_0588.json.gz +bn_all_0589.json.gz +bn_all_0590.json.gz +bn_all_0591.json.gz +bn_all_0592.json.gz +bn_all_0593.json.gz +bn_all_0594.json.gz +bn_all_0595.json.gz +bn_all_0596.json.gz +bn_all_0597.json.gz +bn_all_0598.json.gz +bn_all_0599.json.gz +bn_all_0600.json.gz +bn_all_0601.json.gz +bn_all_0602.json.gz +bn_all_0603.json.gz +bn_all_0604.json.gz +bn_all_0605.json.gz +bn_all_0606.json.gz +bn_all_0607.json.gz +bn_all_0608.json.gz +bn_all_0609.json.gz +bn_all_0610.json.gz +bn_all_0611.json.gz +bn_all_0612.json.gz +bn_all_0613.json.gz +bn_all_0614.json.gz +bn_all_0615.json.gz +bn_all_0616.json.gz +bn_all_0617.json.gz +bn_all_0618.json.gz +bn_all_0619.json.gz +bn_all_0620.json.gz +bn_all_0621.json.gz +bn_all_0622.json.gz +bn_all_0623.json.gz +bn_all_0624.json.gz +bn_all_0625.json.gz +bn_all_0626.json.gz +bn_all_0627.json.gz +bn_all_0628.json.gz +bn_all_0629.json.gz +bn_all_0630.json.gz +bn_all_0631.json.gz +bn_all_0632.json.gz +bn_all_0633.json.gz +bn_all_0634.json.gz +bn_all_0635.json.gz +bn_all_0636.json.gz +bn_all_0637.json.gz +bn_all_0638.json.gz +bn_all_0639.json.gz +bn_all_0640.json.gz +bn_all_0641.json.gz +bn_all_0642.json.gz +bn_all_0643.json.gz +bn_all_0644.json.gz +bn_all_0645.json.gz +bn_all_0646.json.gz +bn_all_0647.json.gz +bn_all_0648.json.gz +bn_all_0649.json.gz +bn_all_0650.json.gz +bn_all_0651.json.gz +bn_all_0652.json.gz +bn_all_0653.json.gz +bn_all_0654.json.gz +bn_all_0655.json.gz +bn_all_0656.json.gz +bn_all_0657.json.gz +bn_all_0658.json.gz +bn_all_0659.json.gz +bn_all_0660.json.gz +bn_all_0661.json.gz +bn_all_0662.json.gz +bn_all_0663.json.gz +bn_all_0664.json.gz +bn_all_0665.json.gz +bn_all_0666.json.gz +bn_all_0667.json.gz +bn_all_0668.json.gz +bn_all_0669.json.gz +bn_all_0670.json.gz +bn_all_0671.json.gz +bn_all_0672.json.gz +bn_all_0673.json.gz +bn_all_0674.json.gz +bn_all_0675.json.gz +bn_all_0676.json.gz +bn_all_0677.json.gz +bn_all_0678.json.gz +bn_all_0679.json.gz +bn_all_0680.json.gz +bn_all_0681.json.gz +bn_all_0682.json.gz +bn_all_0683.json.gz +bn_all_0684.json.gz +bn_all_0685.json.gz +bn_all_0686.json.gz +bn_all_0687.json.gz +bn_all_0688.json.gz +bn_all_0689.json.gz +bn_all_0690.json.gz +bn_all_0691.json.gz +bn_all_0692.json.gz +bn_all_0693.json.gz +bn_all_0694.json.gz +bn_all_0695.json.gz +bn_all_0696.json.gz +bn_all_0697.json.gz +bn_all_0698.json.gz +bn_all_0699.json.gz +bn_all_0700.json.gz +bn_all_0701.json.gz +bn_all_0702.json.gz +bn_all_0703.json.gz +bn_all_0704.json.gz +bn_all_0705.json.gz +bn_all_0706.json.gz +bn_all_0707.json.gz +bn_all_0708.json.gz +bn_all_0709.json.gz +bn_all_0710.json.gz +bn_all_0711.json.gz +bn_all_0712.json.gz +bn_all_0713.json.gz +bn_all_0714.json.gz +bn_all_0715.json.gz +bn_all_0716.json.gz +bn_all_0717.json.gz +bn_all_0718.json.gz +bn_all_0719.json.gz +bn_all_0720.json.gz +bn_all_0721.json.gz +bn_all_0722.json.gz +bn_all_0723.json.gz +bn_all_0724.json.gz +bn_all_0725.json.gz +bn_all_0726.json.gz +bn_all_0727.json.gz +bn_all_0728.json.gz +bn_all_0729.json.gz +bn_all_0730.json.gz +bn_all_0731.json.gz +bn_all_0732.json.gz +bn_all_0733.json.gz +bn_all_0734.json.gz +bn_all_0735.json.gz +bn_all_0736.json.gz +bn_all_0737.json.gz +bn_all_0738.json.gz +bn_all_0739.json.gz +bn_all_0740.json.gz +bn_all_0741.json.gz +bn_all_0742.json.gz +bn_all_0743.json.gz +bn_all_0744.json.gz +bn_all_0745.json.gz +bn_all_0746.json.gz +bn_all_0747.json.gz +bn_all_0748.json.gz +bn_all_0749.json.gz +bn_all_0750.json.gz +bn_all_0751.json.gz +bn_all_0752.json.gz +bn_all_0753.json.gz +bn_all_0754.json.gz +bn_all_0755.json.gz +bn_all_0756.json.gz +bn_all_0757.json.gz +bn_all_0758.json.gz +bn_all_0759.json.gz +bn_all_0760.json.gz +bn_all_0761.json.gz +bn_all_0762.json.gz +bn_all_0763.json.gz +bn_all_0764.json.gz +bn_all_0765.json.gz +bn_all_0766.json.gz +bn_all_0767.json.gz +bn_all_0768.json.gz +bn_all_0769.json.gz +bn_all_0770.json.gz +bn_all_0771.json.gz +bn_all_0772.json.gz +bn_all_0773.json.gz +bn_all_0774.json.gz +bn_all_0775.json.gz +bn_all_0776.json.gz +bn_all_0777.json.gz +bn_all_0778.json.gz +bn_all_0779.json.gz +bn_all_0780.json.gz +bn_all_0781.json.gz +bn_all_0782.json.gz +bn_all_0783.json.gz +bn_all_0784.json.gz +bn_all_0785.json.gz +bn_all_0786.json.gz +bn_all_0787.json.gz +bn_all_0788.json.gz +bn_all_0789.json.gz +bn_all_0790.json.gz +bn_all_0791.json.gz +bn_all_0792.json.gz +bn_all_0793.json.gz +bn_all_0794.json.gz +bn_all_0795.json.gz +bn_all_0796.json.gz +bn_all_0797.json.gz +bn_all_0798.json.gz +bn_all_0799.json.gz +bn_all_0800.json.gz +bn_all_0801.json.gz +bn_all_0802.json.gz +bn_all_0803.json.gz +bn_all_0804.json.gz +bn_all_0805.json.gz +bn_all_0806.json.gz +bn_all_0807.json.gz +bn_all_0808.json.gz +bn_all_0809.json.gz +bn_all_0810.json.gz +bn_all_0811.json.gz +bn_all_0812.json.gz +bn_all_0813.json.gz +bn_all_0814.json.gz +bn_all_0815.json.gz +bn_all_0816.json.gz +bn_all_0817.json.gz +bn_all_0818.json.gz +bn_all_0819.json.gz +bn_all_0820.json.gz +bn_all_0821.json.gz +bn_all_0822.json.gz +bn_all_0823.json.gz +bn_all_0824.json.gz +bn_all_0825.json.gz +bn_all_0826.json.gz +bn_all_0827.json.gz +bn_all_0828.json.gz +bn_all_0829.json.gz +bn_all_0830.json.gz +bn_all_0831.json.gz +bn_all_0832.json.gz +bn_all_0833.json.gz +bn_all_0834.json.gz +bn_all_0835.json.gz +bn_all_0836.json.gz +bn_all_0837.json.gz +bn_all_0838.json.gz +bn_all_0839.json.gz +bn_all_0840.json.gz +bn_all_0841.json.gz +bn_all_0842.json.gz +bn_all_0843.json.gz +bn_all_0844.json.gz +bn_all_0845.json.gz +bn_all_0846.json.gz +bn_all_0847.json.gz +bn_all_0848.json.gz +bn_all_0849.json.gz +bn_all_0850.json.gz +bn_all_0851.json.gz +bn_all_0852.json.gz +bn_all_0853.json.gz +bn_all_0854.json.gz +bn_all_0855.json.gz +bn_all_0856.json.gz +bn_all_0857.json.gz +bn_all_0858.json.gz +bn_all_0859.json.gz +bn_all_0860.json.gz +bn_all_0861.json.gz +bn_all_0862.json.gz +bn_all_0863.json.gz +bn_all_0864.json.gz +bn_all_0865.json.gz +bn_all_0866.json.gz +bn_all_0867.json.gz +bn_all_0868.json.gz +bn_all_0869.json.gz +bn_all_0870.json.gz +bn_all_0871.json.gz +bn_all_0872.json.gz +bn_all_0873.json.gz +bn_all_0874.json.gz +bn_all_0875.json.gz +bn_all_0876.json.gz +bn_all_0877.json.gz +bn_all_0878.json.gz +bn_all_0879.json.gz +bn_all_0880.json.gz +bn_all_0881.json.gz +bn_all_0882.json.gz +bn_all_0883.json.gz +bn_all_0884.json.gz +bn_all_0885.json.gz +bn_all_0886.json.gz +bn_all_0887.json.gz +bn_all_0888.json.gz +bn_all_0889.json.gz +bn_all_0890.json.gz +bn_all_0891.json.gz +bn_all_0892.json.gz +bn_all_0893.json.gz +bn_all_0894.json.gz +bn_all_0895.json.gz +bn_all_0896.json.gz +bn_all_0897.json.gz +bn_all_0898.json.gz +bn_all_0899.json.gz +bn_all_0900.json.gz +bn_all_0901.json.gz +bn_all_0902.json.gz +bn_all_0903.json.gz +bn_all_0904.json.gz +bn_all_0905.json.gz +bn_all_0906.json.gz +bn_all_0907.json.gz +bn_all_0908.json.gz +bn_all_0909.json.gz +bn_all_0910.json.gz +bn_all_0911.json.gz +bn_all_0912.json.gz +bn_all_0913.json.gz +bn_all_0914.json.gz +bn_all_0915.json.gz +bn_all_0916.json.gz +bn_all_0917.json.gz +bn_all_0918.json.gz +bn_all_0919.json.gz +bn_all_0920.json.gz +bn_all_0921.json.gz +bn_all_0922.json.gz +bn_all_0923.json.gz +bn_all_0924.json.gz +bn_all_0925.json.gz +bn_all_0926.json.gz +bn_all_0927.json.gz +bn_all_0928.json.gz +bn_all_0929.json.gz +bn_all_0930.json.gz +bn_all_0931.json.gz +bn_all_0932.json.gz +bn_all_0933.json.gz +bn_all_0934.json.gz +bn_all_0935.json.gz +bn_all_0936.json.gz +bn_all_0937.json.gz +bn_all_0938.json.gz +bn_all_0939.json.gz +bn_all_0940.json.gz +bn_all_0941.json.gz +bn_all_0942.json.gz +bn_all_0943.json.gz +bn_all_0944.json.gz +bn_all_0945.json.gz +bn_all_0946.json.gz +bn_all_0947.json.gz +bn_all_0948.json.gz +bn_all_0949.json.gz +bn_all_0950.json.gz +bn_all_0951.json.gz +bn_all_0952.json.gz +bn_all_0953.json.gz +bn_all_0954.json.gz +bn_all_0955.json.gz +bn_all_0956.json.gz +bn_all_0957.json.gz +bn_all_0958.json.gz +bn_all_0959.json.gz +bn_all_0960.json.gz +bn_all_0961.json.gz +bn_all_0962.json.gz +bn_all_0963.json.gz +bn_all_0964.json.gz +bn_all_0965.json.gz +bn_all_0966.json.gz +bn_all_0967.json.gz +bn_all_0968.json.gz +bn_all_0969.json.gz +bn_all_0970.json.gz +bn_all_0971.json.gz +bn_all_0972.json.gz +bn_all_0973.json.gz +bn_all_0974.json.gz +bn_all_0975.json.gz +bn_all_0976.json.gz +bn_all_0977.json.gz +bn_all_0978.json.gz +bn_all_0979.json.gz +bn_all_0980.json.gz +bn_all_0981.json.gz +bn_all_0982.json.gz +bn_all_0983.json.gz +bn_all_0984.json.gz +bn_all_0985.json.gz +bn_all_0986.json.gz +bn_all_0987.json.gz +bn_all_0988.json.gz +bn_all_0989.json.gz +bn_all_0990.json.gz +bn_all_0991.json.gz +bn_all_0992.json.gz +bn_all_0993.json.gz +bn_all_0994.json.gz +bn_all_0995.json.gz +bn_all_0996.json.gz +bn_all_0997.json.gz +bn_all_0998.json.gz +bn_all_0999.json.gz +bn_all_1000.json.gz +bn_all_1001.json.gz +bn_all_1002.json.gz +bn_all_1003.json.gz +bn_all_1004.json.gz +bn_all_1005.json.gz +bn_all_1006.json.gz +bn_all_1007.json.gz +bn_all_1008.json.gz +bn_all_1009.json.gz +bn_all_1010.json.gz +bn_all_1011.json.gz +bn_all_1012.json.gz +bn_all_1013.json.gz +bn_all_1014.json.gz +bn_all_1015.json.gz +bn_all_1016.json.gz +bn_all_1017.json.gz +bn_all_1018.json.gz +bn_all_1019.json.gz +bn_all_1020.json.gz +bn_all_1021.json.gz +bn_all_1022.json.gz +bn_all_1023.json.gz +bn_all_1024.json.gz +bn_all_1025.json.gz +bn_all_1026.json.gz +bn_all_1027.json.gz +bn_all_1028.json.gz +bn_all_1029.json.gz +bn_all_1030.json.gz +bn_all_1031.json.gz +bn_all_1032.json.gz +bn_all_1033.json.gz +bn_all_1034.json.gz +bn_all_1035.json.gz +bn_all_1036.json.gz +bn_all_1037.json.gz +bn_all_1038.json.gz +bn_all_1039.json.gz +bn_all_1040.json.gz +bn_all_1041.json.gz +bn_all_1042.json.gz +bn_all_1043.json.gz +bn_all_1044.json.gz +bn_all_1045.json.gz +bn_all_1046.json.gz +bn_all_1047.json.gz +bn_all_1048.json.gz +bn_all_1049.json.gz +bn_all_1050.json.gz +bn_all_1051.json.gz +bn_all_1052.json.gz +bn_all_1053.json.gz +bn_all_1054.json.gz +bn_all_1055.json.gz +bn_all_1056.json.gz +bn_all_1057.json.gz +bn_all_1058.json.gz +bn_all_1059.json.gz +bn_all_1060.json.gz +bn_all_1061.json.gz +bn_all_1062.json.gz +bn_all_1063.json.gz +bn_all_1064.json.gz +bn_all_1065.json.gz +bn_all_1066.json.gz +bn_all_1067.json.gz +bn_all_1068.json.gz +bn_all_1069.json.gz +bn_all_1070.json.gz +bn_all_1071.json.gz +bn_all_1072.json.gz +bn_all_1073.json.gz +bn_all_1074.json.gz +bn_all_1075.json.gz +bn_all_1076.json.gz +bn_all_1077.json.gz +bn_all_1078.json.gz +bn_all_1079.json.gz +bn_all_1080.json.gz +bn_all_1081.json.gz +bn_all_1082.json.gz +bn_all_1083.json.gz +bn_all_1084.json.gz +bn_all_1085.json.gz +bn_all_1086.json.gz +bn_all_1087.json.gz +bn_all_1088.json.gz +bn_all_1089.json.gz +bn_all_1090.json.gz +bn_all_1091.json.gz +bn_all_1092.json.gz +bn_all_1093.json.gz +bn_all_1094.json.gz +bn_all_1095.json.gz +bn_all_1096.json.gz +bn_all_1097.json.gz +bn_all_1098.json.gz +bn_all_1099.json.gz +bn_all_1100.json.gz +bn_all_1101.json.gz +bn_all_1102.json.gz +bn_all_1103.json.gz +bn_all_1104.json.gz +bn_all_1105.json.gz +bn_all_1106.json.gz +bn_all_1107.json.gz +bn_all_1108.json.gz +bn_all_1109.json.gz +bn_all_1110.json.gz +bn_all_1111.json.gz +bn_all_1112.json.gz +bn_all_1113.json.gz +bn_all_1114.json.gz +bn_all_1115.json.gz +bn_all_1116.json.gz +bn_all_1117.json.gz +bn_all_1118.json.gz +bn_all_1119.json.gz +bn_all_1120.json.gz +bn_all_1121.json.gz +bn_all_1122.json.gz +bn_all_1123.json.gz +bn_all_1124.json.gz +bn_all_1125.json.gz +bn_all_1126.json.gz +bn_all_1127.json.gz +bn_all_1128.json.gz +bn_all_1129.json.gz +bn_all_1130.json.gz +bn_all_1131.json.gz +bn_all_1132.json.gz +bn_all_1133.json.gz +bn_all_1134.json.gz +bn_all_1135.json.gz +bn_all_1136.json.gz +bn_all_1137.json.gz +bn_all_1138.json.gz +bn_all_1139.json.gz +bn_all_1140.json.gz +bn_all_1141.json.gz +bn_all_1142.json.gz +bn_all_1143.json.gz +bn_all_1144.json.gz +bn_all_1145.json.gz +bn_all_1146.json.gz +bn_all_1147.json.gz +bn_all_1148.json.gz +bn_all_1149.json.gz +bn_all_1150.json.gz +bn_all_1151.json.gz +bn_all_1152.json.gz +bn_all_1153.json.gz +bn_all_1154.json.gz +bn_all_1155.json.gz +bn_all_1156.json.gz +bn_all_1157.json.gz +bn_all_1158.json.gz +bn_all_1159.json.gz +bn_all_1160.json.gz +bn_all_1161.json.gz +bn_all_1162.json.gz +bn_all_1163.json.gz +bn_all_1164.json.gz +bn_all_1165.json.gz +bn_all_1166.json.gz +bn_all_1167.json.gz +bn_all_1168.json.gz +bn_all_1169.json.gz +bn_all_1170.json.gz +bn_all_1171.json.gz +bn_all_1172.json.gz +bn_all_1173.json.gz +bn_all_1174.json.gz +bn_all_1175.json.gz +bn_all_1176.json.gz +bn_all_1177.json.gz +bn_all_1178.json.gz +bn_all_1179.json.gz +bn_all_1180.json.gz +bn_all_1181.json.gz +bn_all_1182.json.gz +bn_all_1183.json.gz +bn_all_1184.json.gz +bn_all_1185.json.gz +bn_all_1186.json.gz +bn_all_1187.json.gz +bn_all_1188.json.gz +bn_all_1189.json.gz +bn_all_1190.json.gz +bn_all_1191.json.gz +bn_all_1192.json.gz +bn_all_1193.json.gz +bn_all_1194.json.gz +bn_all_1195.json.gz +bn_all_1196.json.gz +bn_all_1197.json.gz +bn_all_1198.json.gz +bn_all_1199.json.gz +bn_all_1200.json.gz +bn_all_1201.json.gz +bn_all_1202.json.gz +bn_all_1203.json.gz +bn_all_1204.json.gz +bn_all_1205.json.gz +bn_all_1206.json.gz +bn_all_1207.json.gz +bn_all_1208.json.gz +bn_all_1209.json.gz +bn_all_1210.json.gz +bn_all_1211.json.gz +bn_all_1212.json.gz +bn_all_1213.json.gz +bn_all_1214.json.gz +bn_all_1215.json.gz +bn_all_1216.json.gz +bn_all_1217.json.gz +bn_all_1218.json.gz +bn_all_1219.json.gz +bn_all_1220.json.gz +bn_all_1221.json.gz +bn_all_1222.json.gz +bn_all_1223.json.gz +bn_all_1224.json.gz +bn_all_1225.json.gz +bn_all_1226.json.gz +bn_all_1227.json.gz +bn_all_1228.json.gz +bn_all_1229.json.gz +bn_all_1230.json.gz +bn_all_1231.json.gz +bn_all_1232.json.gz +bn_all_1233.json.gz +bn_all_1234.json.gz +bn_all_1235.json.gz +bn_all_1236.json.gz +bn_all_1237.json.gz +bn_all_1238.json.gz +bn_all_1239.json.gz +bn_all_1240.json.gz +bn_all_1241.json.gz +bn_all_1242.json.gz +bn_all_1243.json.gz +bn_all_1244.json.gz +bn_all_1245.json.gz +bn_all_1246.json.gz +bn_all_1247.json.gz +bn_all_1248.json.gz +bn_all_1249.json.gz +bn_all_1250.json.gz +bn_all_1251.json.gz +bn_all_1252.json.gz +bn_all_1253.json.gz +bn_all_1254.json.gz +bn_all_1255.json.gz +bn_all_1256.json.gz +bn_all_1257.json.gz +bn_all_1258.json.gz +bn_all_1259.json.gz +bn_all_1260.json.gz +bn_all_1261.json.gz +bn_all_1262.json.gz +bn_all_1263.json.gz +bn_all_1264.json.gz +bn_all_1265.json.gz +bn_all_1266.json.gz +bn_all_1267.json.gz +bn_all_1268.json.gz +bn_all_1269.json.gz +bn_all_1270.json.gz +bn_all_1271.json.gz +bn_all_1272.json.gz +bn_all_1273.json.gz +bn_all_1274.json.gz +bn_all_1275.json.gz +bn_all_1276.json.gz +bn_all_1277.json.gz +bn_all_1278.json.gz +bn_all_1279.json.gz +bn_all_1280.json.gz +bn_all_1281.json.gz +bn_all_1282.json.gz +bn_all_1283.json.gz +bn_all_1284.json.gz +bn_all_1285.json.gz +bn_all_1286.json.gz +bn_all_1287.json.gz +bn_all_1288.json.gz +bn_all_1289.json.gz +bn_all_1290.json.gz +bn_all_1291.json.gz +bn_all_1292.json.gz +bn_all_1293.json.gz +bn_all_1294.json.gz +bn_all_1295.json.gz +bn_all_1296.json.gz +bn_all_1297.json.gz +bn_all_1298.json.gz +bn_all_1299.json.gz +bn_all_1300.json.gz +bn_all_1301.json.gz +bn_all_1302.json.gz +bn_all_1303.json.gz +bn_all_1304.json.gz +bn_all_1305.json.gz +bn_all_1306.json.gz +bn_all_1307.json.gz +bn_all_1308.json.gz +bn_all_1309.json.gz +bn_all_1310.json.gz +bn_all_1311.json.gz +bn_all_1312.json.gz +bn_all_1313.json.gz +bn_all_1314.json.gz +bn_all_1315.json.gz +bn_all_1316.json.gz +bn_all_1317.json.gz +bn_all_1318.json.gz +bn_all_1319.json.gz +bn_all_1320.json.gz +bn_all_1321.json.gz +bn_all_1322.json.gz +bn_all_1323.json.gz +bn_all_1324.json.gz +bn_all_1325.json.gz +bn_all_1326.json.gz +bn_all_1327.json.gz +bn_all_1328.json.gz +bn_all_1329.json.gz +bn_all_1330.json.gz +bn_all_1331.json.gz +bn_all_1332.json.gz +bn_all_1333.json.gz +bn_all_1334.json.gz +bn_all_1335.json.gz +bn_all_1336.json.gz +bn_all_1337.json.gz +bn_all_1338.json.gz +bn_all_1339.json.gz +bn_all_1340.json.gz +bn_all_1341.json.gz +bn_all_1342.json.gz +bn_all_1343.json.gz +bn_all_1344.json.gz +bn_all_1345.json.gz +bn_all_1346.json.gz +bn_all_1347.json.gz +bn_all_1348.json.gz +bn_all_1349.json.gz +bn_all_1350.json.gz +bn_all_1351.json.gz +bn_all_1352.json.gz +bn_all_1353.json.gz +bn_all_1354.json.gz +bn_all_1355.json.gz +bn_all_1356.json.gz +bn_all_1357.json.gz +bn_all_1358.json.gz +bn_all_1359.json.gz +bn_all_1360.json.gz +bn_all_1361.json.gz +bn_all_1362.json.gz +bn_all_1363.json.gz +bn_all_1364.json.gz +bn_all_1365.json.gz +bn_all_1366.json.gz +bn_all_1367.json.gz +bn_all_1368.json.gz +bn_all_1369.json.gz +bn_all_1370.json.gz +bn_all_1371.json.gz +bn_all_1372.json.gz +bn_all_1373.json.gz +bn_all_1374.json.gz +bn_all_1375.json.gz +bn_all_1376.json.gz +bn_all_1377.json.gz +bn_all_1378.json.gz +bn_all_1379.json.gz +bn_all_1380.json.gz +bn_all_1381.json.gz +bn_all_1382.json.gz +bn_all_1383.json.gz +bn_all_1384.json.gz +bn_all_1385.json.gz +bn_all_1386.json.gz +bn_all_1387.json.gz +bn_all_1388.json.gz +bn_all_1389.json.gz +bn_all_1390.json.gz +bn_all_1391.json.gz +bn_all_1392.json.gz +bn_all_1393.json.gz +bn_all_1394.json.gz +bn_all_1395.json.gz +bn_all_1396.json.gz +bn_all_1397.json.gz +bn_all_1398.json.gz +bn_all_1399.json.gz +bn_all_1400.json.gz +bn_all_1401.json.gz +bn_all_1402.json.gz +bn_all_1403.json.gz +bn_all_1404.json.gz +bn_all_1405.json.gz +bn_all_1406.json.gz +bn_all_1407.json.gz +bn_all_1408.json.gz +bn_all_1409.json.gz +bn_all_1410.json.gz +bn_all_1411.json.gz +bn_all_1412.json.gz +bn_all_1413.json.gz +bn_all_1414.json.gz +bn_all_1415.json.gz +bn_all_1416.json.gz +bn_all_1417.json.gz +bn_all_1418.json.gz +bn_all_1419.json.gz +bn_all_1420.json.gz +bn_all_1421.json.gz +bn_all_1422.json.gz +bn_all_1423.json.gz +bn_all_1424.json.gz +bn_all_1425.json.gz +bn_all_1426.json.gz +bn_all_1427.json.gz +bn_all_1428.json.gz +bn_all_1429.json.gz +bn_all_1430.json.gz +bn_all_1431.json.gz +bn_all_1432.json.gz +bn_all_1433.json.gz +bn_all_1434.json.gz +bn_all_1435.json.gz +bn_all_1436.json.gz +bn_all_1437.json.gz +bn_all_1438.json.gz +bn_all_1439.json.gz +bn_all_1440.json.gz +bn_all_1441.json.gz +bn_all_1442.json.gz +bn_all_1443.json.gz +bn_all_1444.json.gz +bn_all_1445.json.gz +bn_all_1446.json.gz +bn_all_1447.json.gz +bn_all_1448.json.gz +bn_all_1449.json.gz +bn_all_1450.json.gz +bn_all_1451.json.gz +bn_all_1452.json.gz +bn_all_1453.json.gz +bn_all_1454.json.gz +bn_all_1455.json.gz +bn_all_1456.json.gz +bn_all_1457.json.gz +bn_all_1458.json.gz +bn_all_1459.json.gz +bn_all_1460.json.gz +bn_all_1461.json.gz +bn_all_1462.json.gz +bn_all_1463.json.gz +bn_all_1464.json.gz +bn_all_1465.json.gz +bn_all_1466.json.gz +bn_all_1467.json.gz +bn_all_1468.json.gz +bn_all_1469.json.gz +bn_all_1470.json.gz +bn_all_1471.json.gz +bn_all_1472.json.gz +bn_all_1473.json.gz +bn_all_1474.json.gz +bn_all_1475.json.gz +bn_all_1476.json.gz +bn_all_1477.json.gz +bn_all_1478.json.gz +bn_all_1479.json.gz +bn_all_1480.json.gz +bn_all_1481.json.gz +bn_all_1482.json.gz +bn_all_1483.json.gz +bn_all_1484.json.gz +bn_all_1485.json.gz +bn_all_1486.json.gz +bn_all_1487.json.gz +bn_all_1488.json.gz +bn_all_1489.json.gz +bn_all_1490.json.gz +bn_all_1491.json.gz +bn_all_1492.json.gz +bn_all_1493.json.gz +bn_all_1494.json.gz +bn_all_1495.json.gz +bn_all_1496.json.gz +bn_all_1497.json.gz +bn_all_1498.json.gz +bn_all_1499.json.gz +bn_all_1500.json.gz +bn_all_1501.json.gz +bn_all_1502.json.gz +bn_all_1503.json.gz +bn_all_1504.json.gz +bn_all_1505.json.gz +bn_all_1506.json.gz +bn_all_1507.json.gz +bn_all_1508.json.gz +bn_all_1509.json.gz +bn_all_1510.json.gz +bn_all_1511.json.gz +bn_all_1512.json.gz +bn_all_1513.json.gz +bn_all_1514.json.gz +bn_all_1515.json.gz +bn_all_1516.json.gz +bn_all_1517.json.gz +bn_all_1518.json.gz +bn_all_1519.json.gz +bn_all_1520.json.gz +bn_all_1521.json.gz +bn_all_1522.json.gz +bn_all_1523.json.gz +bn_all_1524.json.gz +bn_all_1525.json.gz +bn_all_1526.json.gz +bn_all_1527.json.gz +bn_all_1528.json.gz +bn_all_1529.json.gz +bn_all_1530.json.gz +bn_all_1531.json.gz +bn_all_1532.json.gz +bn_all_1533.json.gz +bn_all_1534.json.gz +bn_all_1535.json.gz +bn_all_1536.json.gz +bn_all_1537.json.gz +bn_all_1538.json.gz +bn_all_1539.json.gz +bn_all_1540.json.gz +bn_all_1541.json.gz +bn_all_1542.json.gz +bn_all_1543.json.gz +bn_all_1544.json.gz +bn_all_1545.json.gz +bn_all_1546.json.gz +bn_all_1547.json.gz +bn_all_1548.json.gz +bn_all_1549.json.gz +bn_all_1550.json.gz +bn_all_1551.json.gz +bn_all_1552.json.gz +bn_all_1553.json.gz +bn_all_1554.json.gz +bn_all_1555.json.gz +bn_all_1556.json.gz +bn_all_1557.json.gz +bn_all_1558.json.gz +bn_all_1559.json.gz +bn_all_1560.json.gz +bn_all_1561.json.gz +bn_all_1562.json.gz +bn_all_1563.json.gz +bn_all_1564.json.gz +bn_all_1565.json.gz +bn_all_1566.json.gz +bn_all_1567.json.gz +bn_all_1568.json.gz +bn_all_1569.json.gz +bn_all_1570.json.gz +bn_all_1571.json.gz +bn_all_1572.json.gz +bn_all_1573.json.gz +bn_all_1574.json.gz +bn_all_1575.json.gz +bn_all_1576.json.gz +bn_all_1577.json.gz +bn_all_1578.json.gz +bn_all_1579.json.gz +bn_all_1580.json.gz +bn_all_1581.json.gz +bn_all_1582.json.gz +bn_all_1583.json.gz +bn_all_1584.json.gz +bn_all_1585.json.gz +bn_all_1586.json.gz +bn_all_1587.json.gz +bn_all_1588.json.gz +bn_all_1589.json.gz +bn_all_1590.json.gz +bn_all_1591.json.gz +bn_all_1592.json.gz +bn_all_1593.json.gz +bn_all_1594.json.gz +bn_all_1595.json.gz +bn_all_1596.json.gz +bn_all_1597.json.gz +bn_all_1598.json.gz +bn_all_1599.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mai.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mai.txt new file mode 100644 index 0000000000000000000000000000000000000000..42df956af2054e0e16e966e4fe0ca5424c3c0287 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mai.txt @@ -0,0 +1 @@ +mai_all_0000.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mr.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mr.txt new file mode 100644 index 0000000000000000000000000000000000000000..28f1535e56a44a8412e26433e30dc1f8940fef4f --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/mr.txt @@ -0,0 +1,400 @@ +mr_all_0000.json.gz +mr_all_0001.json.gz +mr_all_0002.json.gz +mr_all_0003.json.gz +mr_all_0004.json.gz +mr_all_0005.json.gz +mr_all_0006.json.gz +mr_all_0007.json.gz +mr_all_0008.json.gz +mr_all_0009.json.gz +mr_all_0010.json.gz +mr_all_0011.json.gz +mr_all_0012.json.gz +mr_all_0013.json.gz +mr_all_0014.json.gz +mr_all_0015.json.gz +mr_all_0016.json.gz +mr_all_0017.json.gz +mr_all_0018.json.gz +mr_all_0019.json.gz +mr_all_0020.json.gz +mr_all_0021.json.gz +mr_all_0022.json.gz +mr_all_0023.json.gz +mr_all_0024.json.gz +mr_all_0025.json.gz +mr_all_0026.json.gz +mr_all_0027.json.gz +mr_all_0028.json.gz +mr_all_0029.json.gz +mr_all_0030.json.gz +mr_all_0031.json.gz +mr_all_0032.json.gz +mr_all_0033.json.gz +mr_all_0034.json.gz +mr_all_0035.json.gz +mr_all_0036.json.gz +mr_all_0037.json.gz +mr_all_0038.json.gz +mr_all_0039.json.gz +mr_all_0040.json.gz +mr_all_0041.json.gz +mr_all_0042.json.gz +mr_all_0043.json.gz +mr_all_0044.json.gz +mr_all_0045.json.gz +mr_all_0046.json.gz +mr_all_0047.json.gz +mr_all_0048.json.gz +mr_all_0049.json.gz +mr_all_0050.json.gz +mr_all_0051.json.gz +mr_all_0052.json.gz +mr_all_0053.json.gz +mr_all_0054.json.gz +mr_all_0055.json.gz +mr_all_0056.json.gz +mr_all_0057.json.gz +mr_all_0058.json.gz +mr_all_0059.json.gz +mr_all_0060.json.gz +mr_all_0061.json.gz +mr_all_0062.json.gz +mr_all_0063.json.gz +mr_all_0064.json.gz +mr_all_0065.json.gz +mr_all_0066.json.gz +mr_all_0067.json.gz +mr_all_0068.json.gz +mr_all_0069.json.gz +mr_all_0070.json.gz +mr_all_0071.json.gz +mr_all_0072.json.gz +mr_all_0073.json.gz +mr_all_0074.json.gz +mr_all_0075.json.gz +mr_all_0076.json.gz +mr_all_0077.json.gz +mr_all_0078.json.gz +mr_all_0079.json.gz +mr_all_0080.json.gz +mr_all_0081.json.gz +mr_all_0082.json.gz +mr_all_0083.json.gz +mr_all_0084.json.gz +mr_all_0085.json.gz +mr_all_0086.json.gz +mr_all_0087.json.gz +mr_all_0088.json.gz +mr_all_0089.json.gz +mr_all_0090.json.gz +mr_all_0091.json.gz +mr_all_0092.json.gz +mr_all_0093.json.gz +mr_all_0094.json.gz +mr_all_0095.json.gz +mr_all_0096.json.gz +mr_all_0097.json.gz +mr_all_0098.json.gz +mr_all_0099.json.gz +mr_all_0100.json.gz +mr_all_0101.json.gz +mr_all_0102.json.gz +mr_all_0103.json.gz +mr_all_0104.json.gz +mr_all_0105.json.gz +mr_all_0106.json.gz +mr_all_0107.json.gz +mr_all_0108.json.gz +mr_all_0109.json.gz +mr_all_0110.json.gz +mr_all_0111.json.gz +mr_all_0112.json.gz +mr_all_0113.json.gz +mr_all_0114.json.gz +mr_all_0115.json.gz +mr_all_0116.json.gz +mr_all_0117.json.gz +mr_all_0118.json.gz +mr_all_0119.json.gz +mr_all_0120.json.gz +mr_all_0121.json.gz +mr_all_0122.json.gz +mr_all_0123.json.gz +mr_all_0124.json.gz +mr_all_0125.json.gz +mr_all_0126.json.gz +mr_all_0127.json.gz +mr_all_0128.json.gz +mr_all_0129.json.gz +mr_all_0130.json.gz +mr_all_0131.json.gz +mr_all_0132.json.gz +mr_all_0133.json.gz +mr_all_0134.json.gz +mr_all_0135.json.gz +mr_all_0136.json.gz +mr_all_0137.json.gz +mr_all_0138.json.gz +mr_all_0139.json.gz +mr_all_0140.json.gz +mr_all_0141.json.gz +mr_all_0142.json.gz +mr_all_0143.json.gz +mr_all_0144.json.gz +mr_all_0145.json.gz +mr_all_0146.json.gz +mr_all_0147.json.gz +mr_all_0148.json.gz +mr_all_0149.json.gz +mr_all_0150.json.gz +mr_all_0151.json.gz +mr_all_0152.json.gz +mr_all_0153.json.gz +mr_all_0154.json.gz +mr_all_0155.json.gz +mr_all_0156.json.gz +mr_all_0157.json.gz +mr_all_0158.json.gz +mr_all_0159.json.gz +mr_all_0160.json.gz +mr_all_0161.json.gz +mr_all_0162.json.gz +mr_all_0163.json.gz +mr_all_0164.json.gz +mr_all_0165.json.gz +mr_all_0166.json.gz +mr_all_0167.json.gz +mr_all_0168.json.gz +mr_all_0169.json.gz +mr_all_0170.json.gz +mr_all_0171.json.gz +mr_all_0172.json.gz +mr_all_0173.json.gz +mr_all_0174.json.gz +mr_all_0175.json.gz +mr_all_0176.json.gz +mr_all_0177.json.gz +mr_all_0178.json.gz +mr_all_0179.json.gz +mr_all_0180.json.gz +mr_all_0181.json.gz +mr_all_0182.json.gz +mr_all_0183.json.gz +mr_all_0184.json.gz +mr_all_0185.json.gz +mr_all_0186.json.gz +mr_all_0187.json.gz +mr_all_0188.json.gz +mr_all_0189.json.gz +mr_all_0190.json.gz +mr_all_0191.json.gz +mr_all_0192.json.gz +mr_all_0193.json.gz +mr_all_0194.json.gz +mr_all_0195.json.gz +mr_all_0196.json.gz +mr_all_0197.json.gz +mr_all_0198.json.gz +mr_all_0199.json.gz +mr_all_0200.json.gz +mr_all_0201.json.gz +mr_all_0202.json.gz +mr_all_0203.json.gz +mr_all_0204.json.gz +mr_all_0205.json.gz +mr_all_0206.json.gz +mr_all_0207.json.gz +mr_all_0208.json.gz +mr_all_0209.json.gz +mr_all_0210.json.gz +mr_all_0211.json.gz +mr_all_0212.json.gz +mr_all_0213.json.gz +mr_all_0214.json.gz +mr_all_0215.json.gz +mr_all_0216.json.gz +mr_all_0217.json.gz +mr_all_0218.json.gz +mr_all_0219.json.gz +mr_all_0220.json.gz +mr_all_0221.json.gz +mr_all_0222.json.gz +mr_all_0223.json.gz +mr_all_0224.json.gz +mr_all_0225.json.gz +mr_all_0226.json.gz +mr_all_0227.json.gz +mr_all_0228.json.gz +mr_all_0229.json.gz +mr_all_0230.json.gz +mr_all_0231.json.gz +mr_all_0232.json.gz +mr_all_0233.json.gz +mr_all_0234.json.gz +mr_all_0235.json.gz +mr_all_0236.json.gz +mr_all_0237.json.gz +mr_all_0238.json.gz +mr_all_0239.json.gz +mr_all_0240.json.gz +mr_all_0241.json.gz +mr_all_0242.json.gz +mr_all_0243.json.gz +mr_all_0244.json.gz +mr_all_0245.json.gz +mr_all_0246.json.gz +mr_all_0247.json.gz +mr_all_0248.json.gz +mr_all_0249.json.gz +mr_all_0250.json.gz +mr_all_0251.json.gz +mr_all_0252.json.gz +mr_all_0253.json.gz +mr_all_0254.json.gz +mr_all_0255.json.gz +mr_all_0256.json.gz +mr_all_0257.json.gz +mr_all_0258.json.gz +mr_all_0259.json.gz +mr_all_0260.json.gz +mr_all_0261.json.gz +mr_all_0262.json.gz +mr_all_0263.json.gz +mr_all_0264.json.gz +mr_all_0265.json.gz +mr_all_0266.json.gz +mr_all_0267.json.gz +mr_all_0268.json.gz +mr_all_0269.json.gz +mr_all_0270.json.gz +mr_all_0271.json.gz +mr_all_0272.json.gz +mr_all_0273.json.gz +mr_all_0274.json.gz +mr_all_0275.json.gz +mr_all_0276.json.gz +mr_all_0277.json.gz +mr_all_0278.json.gz +mr_all_0279.json.gz +mr_all_0280.json.gz +mr_all_0281.json.gz +mr_all_0282.json.gz +mr_all_0283.json.gz +mr_all_0284.json.gz +mr_all_0285.json.gz +mr_all_0286.json.gz +mr_all_0287.json.gz +mr_all_0288.json.gz +mr_all_0289.json.gz +mr_all_0290.json.gz +mr_all_0291.json.gz +mr_all_0292.json.gz +mr_all_0293.json.gz +mr_all_0294.json.gz +mr_all_0295.json.gz +mr_all_0296.json.gz +mr_all_0297.json.gz +mr_all_0298.json.gz +mr_all_0299.json.gz +mr_all_0300.json.gz +mr_all_0301.json.gz +mr_all_0302.json.gz +mr_all_0303.json.gz +mr_all_0304.json.gz +mr_all_0305.json.gz +mr_all_0306.json.gz +mr_all_0307.json.gz +mr_all_0308.json.gz +mr_all_0309.json.gz +mr_all_0310.json.gz +mr_all_0311.json.gz +mr_all_0312.json.gz +mr_all_0313.json.gz +mr_all_0314.json.gz +mr_all_0315.json.gz +mr_all_0316.json.gz +mr_all_0317.json.gz +mr_all_0318.json.gz +mr_all_0319.json.gz +mr_all_0320.json.gz +mr_all_0321.json.gz +mr_all_0322.json.gz +mr_all_0323.json.gz +mr_all_0324.json.gz +mr_all_0325.json.gz +mr_all_0326.json.gz +mr_all_0327.json.gz +mr_all_0328.json.gz +mr_all_0329.json.gz +mr_all_0330.json.gz +mr_all_0331.json.gz +mr_all_0332.json.gz +mr_all_0333.json.gz +mr_all_0334.json.gz +mr_all_0335.json.gz +mr_all_0336.json.gz +mr_all_0337.json.gz +mr_all_0338.json.gz +mr_all_0339.json.gz +mr_all_0340.json.gz +mr_all_0341.json.gz +mr_all_0342.json.gz +mr_all_0343.json.gz +mr_all_0344.json.gz +mr_all_0345.json.gz +mr_all_0346.json.gz +mr_all_0347.json.gz +mr_all_0348.json.gz +mr_all_0349.json.gz +mr_all_0350.json.gz +mr_all_0351.json.gz +mr_all_0352.json.gz +mr_all_0353.json.gz +mr_all_0354.json.gz +mr_all_0355.json.gz +mr_all_0356.json.gz +mr_all_0357.json.gz +mr_all_0358.json.gz +mr_all_0359.json.gz +mr_all_0360.json.gz +mr_all_0361.json.gz +mr_all_0362.json.gz +mr_all_0363.json.gz +mr_all_0364.json.gz +mr_all_0365.json.gz +mr_all_0366.json.gz +mr_all_0367.json.gz +mr_all_0368.json.gz +mr_all_0369.json.gz +mr_all_0370.json.gz +mr_all_0371.json.gz +mr_all_0372.json.gz +mr_all_0373.json.gz +mr_all_0374.json.gz +mr_all_0375.json.gz +mr_all_0376.json.gz +mr_all_0377.json.gz +mr_all_0378.json.gz +mr_all_0379.json.gz +mr_all_0380.json.gz +mr_all_0381.json.gz +mr_all_0382.json.gz +mr_all_0383.json.gz +mr_all_0384.json.gz +mr_all_0385.json.gz +mr_all_0386.json.gz +mr_all_0387.json.gz +mr_all_0388.json.gz +mr_all_0389.json.gz +mr_all_0390.json.gz +mr_all_0391.json.gz +mr_all_0392.json.gz +mr_all_0393.json.gz +mr_all_0394.json.gz +mr_all_0395.json.gz +mr_all_0396.json.gz +mr_all_0397.json.gz +mr_all_0398.json.gz +mr_all_0399.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ne.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ne.txt new file mode 100644 index 0000000000000000000000000000000000000000..f99fecfb38dad90859c8b43dc34f86511fdac159 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ne.txt @@ -0,0 +1,800 @@ +ne_all_0000.json.gz +ne_all_0001.json.gz +ne_all_0002.json.gz +ne_all_0003.json.gz +ne_all_0004.json.gz +ne_all_0005.json.gz +ne_all_0006.json.gz +ne_all_0007.json.gz +ne_all_0008.json.gz +ne_all_0009.json.gz +ne_all_0010.json.gz +ne_all_0011.json.gz +ne_all_0012.json.gz +ne_all_0013.json.gz +ne_all_0014.json.gz +ne_all_0015.json.gz +ne_all_0016.json.gz +ne_all_0017.json.gz +ne_all_0018.json.gz +ne_all_0019.json.gz +ne_all_0020.json.gz +ne_all_0021.json.gz +ne_all_0022.json.gz +ne_all_0023.json.gz +ne_all_0024.json.gz +ne_all_0025.json.gz +ne_all_0026.json.gz +ne_all_0027.json.gz +ne_all_0028.json.gz +ne_all_0029.json.gz +ne_all_0030.json.gz +ne_all_0031.json.gz +ne_all_0032.json.gz +ne_all_0033.json.gz +ne_all_0034.json.gz +ne_all_0035.json.gz +ne_all_0036.json.gz +ne_all_0037.json.gz +ne_all_0038.json.gz +ne_all_0039.json.gz +ne_all_0040.json.gz +ne_all_0041.json.gz +ne_all_0042.json.gz +ne_all_0043.json.gz +ne_all_0044.json.gz +ne_all_0045.json.gz +ne_all_0046.json.gz +ne_all_0047.json.gz +ne_all_0048.json.gz +ne_all_0049.json.gz +ne_all_0050.json.gz +ne_all_0051.json.gz +ne_all_0052.json.gz +ne_all_0053.json.gz +ne_all_0054.json.gz +ne_all_0055.json.gz +ne_all_0056.json.gz +ne_all_0057.json.gz +ne_all_0058.json.gz +ne_all_0059.json.gz +ne_all_0060.json.gz +ne_all_0061.json.gz +ne_all_0062.json.gz +ne_all_0063.json.gz +ne_all_0064.json.gz +ne_all_0065.json.gz +ne_all_0066.json.gz +ne_all_0067.json.gz +ne_all_0068.json.gz +ne_all_0069.json.gz +ne_all_0070.json.gz +ne_all_0071.json.gz +ne_all_0072.json.gz +ne_all_0073.json.gz +ne_all_0074.json.gz +ne_all_0075.json.gz +ne_all_0076.json.gz +ne_all_0077.json.gz +ne_all_0078.json.gz +ne_all_0079.json.gz +ne_all_0080.json.gz +ne_all_0081.json.gz +ne_all_0082.json.gz +ne_all_0083.json.gz +ne_all_0084.json.gz +ne_all_0085.json.gz +ne_all_0086.json.gz +ne_all_0087.json.gz +ne_all_0088.json.gz +ne_all_0089.json.gz +ne_all_0090.json.gz +ne_all_0091.json.gz +ne_all_0092.json.gz +ne_all_0093.json.gz +ne_all_0094.json.gz +ne_all_0095.json.gz +ne_all_0096.json.gz +ne_all_0097.json.gz +ne_all_0098.json.gz +ne_all_0099.json.gz +ne_all_0100.json.gz +ne_all_0101.json.gz +ne_all_0102.json.gz +ne_all_0103.json.gz +ne_all_0104.json.gz +ne_all_0105.json.gz +ne_all_0106.json.gz +ne_all_0107.json.gz +ne_all_0108.json.gz +ne_all_0109.json.gz +ne_all_0110.json.gz +ne_all_0111.json.gz +ne_all_0112.json.gz +ne_all_0113.json.gz +ne_all_0114.json.gz +ne_all_0115.json.gz +ne_all_0116.json.gz +ne_all_0117.json.gz +ne_all_0118.json.gz +ne_all_0119.json.gz +ne_all_0120.json.gz +ne_all_0121.json.gz +ne_all_0122.json.gz +ne_all_0123.json.gz +ne_all_0124.json.gz +ne_all_0125.json.gz +ne_all_0126.json.gz +ne_all_0127.json.gz +ne_all_0128.json.gz +ne_all_0129.json.gz +ne_all_0130.json.gz +ne_all_0131.json.gz +ne_all_0132.json.gz +ne_all_0133.json.gz +ne_all_0134.json.gz +ne_all_0135.json.gz +ne_all_0136.json.gz +ne_all_0137.json.gz +ne_all_0138.json.gz +ne_all_0139.json.gz +ne_all_0140.json.gz +ne_all_0141.json.gz +ne_all_0142.json.gz +ne_all_0143.json.gz +ne_all_0144.json.gz +ne_all_0145.json.gz +ne_all_0146.json.gz +ne_all_0147.json.gz +ne_all_0148.json.gz +ne_all_0149.json.gz +ne_all_0150.json.gz +ne_all_0151.json.gz +ne_all_0152.json.gz +ne_all_0153.json.gz +ne_all_0154.json.gz +ne_all_0155.json.gz +ne_all_0156.json.gz +ne_all_0157.json.gz +ne_all_0158.json.gz +ne_all_0159.json.gz +ne_all_0160.json.gz +ne_all_0161.json.gz +ne_all_0162.json.gz +ne_all_0163.json.gz +ne_all_0164.json.gz +ne_all_0165.json.gz +ne_all_0166.json.gz +ne_all_0167.json.gz +ne_all_0168.json.gz +ne_all_0169.json.gz +ne_all_0170.json.gz +ne_all_0171.json.gz +ne_all_0172.json.gz +ne_all_0173.json.gz +ne_all_0174.json.gz +ne_all_0175.json.gz +ne_all_0176.json.gz +ne_all_0177.json.gz +ne_all_0178.json.gz +ne_all_0179.json.gz +ne_all_0180.json.gz +ne_all_0181.json.gz +ne_all_0182.json.gz +ne_all_0183.json.gz +ne_all_0184.json.gz +ne_all_0185.json.gz +ne_all_0186.json.gz +ne_all_0187.json.gz +ne_all_0188.json.gz +ne_all_0189.json.gz +ne_all_0190.json.gz +ne_all_0191.json.gz +ne_all_0192.json.gz +ne_all_0193.json.gz +ne_all_0194.json.gz +ne_all_0195.json.gz +ne_all_0196.json.gz +ne_all_0197.json.gz +ne_all_0198.json.gz +ne_all_0199.json.gz +ne_all_0200.json.gz +ne_all_0201.json.gz +ne_all_0202.json.gz +ne_all_0203.json.gz +ne_all_0204.json.gz +ne_all_0205.json.gz +ne_all_0206.json.gz +ne_all_0207.json.gz +ne_all_0208.json.gz +ne_all_0209.json.gz +ne_all_0210.json.gz +ne_all_0211.json.gz +ne_all_0212.json.gz +ne_all_0213.json.gz +ne_all_0214.json.gz +ne_all_0215.json.gz +ne_all_0216.json.gz +ne_all_0217.json.gz +ne_all_0218.json.gz +ne_all_0219.json.gz +ne_all_0220.json.gz +ne_all_0221.json.gz +ne_all_0222.json.gz +ne_all_0223.json.gz +ne_all_0224.json.gz +ne_all_0225.json.gz +ne_all_0226.json.gz +ne_all_0227.json.gz +ne_all_0228.json.gz +ne_all_0229.json.gz +ne_all_0230.json.gz +ne_all_0231.json.gz +ne_all_0232.json.gz +ne_all_0233.json.gz +ne_all_0234.json.gz +ne_all_0235.json.gz +ne_all_0236.json.gz +ne_all_0237.json.gz +ne_all_0238.json.gz +ne_all_0239.json.gz +ne_all_0240.json.gz +ne_all_0241.json.gz +ne_all_0242.json.gz +ne_all_0243.json.gz +ne_all_0244.json.gz +ne_all_0245.json.gz +ne_all_0246.json.gz +ne_all_0247.json.gz +ne_all_0248.json.gz +ne_all_0249.json.gz +ne_all_0250.json.gz +ne_all_0251.json.gz +ne_all_0252.json.gz +ne_all_0253.json.gz +ne_all_0254.json.gz +ne_all_0255.json.gz +ne_all_0256.json.gz +ne_all_0257.json.gz +ne_all_0258.json.gz +ne_all_0259.json.gz +ne_all_0260.json.gz +ne_all_0261.json.gz +ne_all_0262.json.gz +ne_all_0263.json.gz +ne_all_0264.json.gz +ne_all_0265.json.gz +ne_all_0266.json.gz +ne_all_0267.json.gz +ne_all_0268.json.gz +ne_all_0269.json.gz +ne_all_0270.json.gz +ne_all_0271.json.gz +ne_all_0272.json.gz +ne_all_0273.json.gz +ne_all_0274.json.gz +ne_all_0275.json.gz +ne_all_0276.json.gz +ne_all_0277.json.gz +ne_all_0278.json.gz +ne_all_0279.json.gz +ne_all_0280.json.gz +ne_all_0281.json.gz +ne_all_0282.json.gz +ne_all_0283.json.gz +ne_all_0284.json.gz +ne_all_0285.json.gz +ne_all_0286.json.gz +ne_all_0287.json.gz +ne_all_0288.json.gz +ne_all_0289.json.gz +ne_all_0290.json.gz +ne_all_0291.json.gz +ne_all_0292.json.gz +ne_all_0293.json.gz +ne_all_0294.json.gz +ne_all_0295.json.gz +ne_all_0296.json.gz +ne_all_0297.json.gz +ne_all_0298.json.gz +ne_all_0299.json.gz +ne_all_0300.json.gz +ne_all_0301.json.gz +ne_all_0302.json.gz +ne_all_0303.json.gz +ne_all_0304.json.gz +ne_all_0305.json.gz +ne_all_0306.json.gz +ne_all_0307.json.gz +ne_all_0308.json.gz +ne_all_0309.json.gz +ne_all_0310.json.gz +ne_all_0311.json.gz +ne_all_0312.json.gz +ne_all_0313.json.gz +ne_all_0314.json.gz +ne_all_0315.json.gz +ne_all_0316.json.gz +ne_all_0317.json.gz +ne_all_0318.json.gz +ne_all_0319.json.gz +ne_all_0320.json.gz +ne_all_0321.json.gz +ne_all_0322.json.gz +ne_all_0323.json.gz +ne_all_0324.json.gz +ne_all_0325.json.gz +ne_all_0326.json.gz +ne_all_0327.json.gz +ne_all_0328.json.gz +ne_all_0329.json.gz +ne_all_0330.json.gz +ne_all_0331.json.gz +ne_all_0332.json.gz +ne_all_0333.json.gz +ne_all_0334.json.gz +ne_all_0335.json.gz +ne_all_0336.json.gz +ne_all_0337.json.gz +ne_all_0338.json.gz +ne_all_0339.json.gz +ne_all_0340.json.gz +ne_all_0341.json.gz +ne_all_0342.json.gz +ne_all_0343.json.gz +ne_all_0344.json.gz +ne_all_0345.json.gz +ne_all_0346.json.gz +ne_all_0347.json.gz +ne_all_0348.json.gz +ne_all_0349.json.gz +ne_all_0350.json.gz +ne_all_0351.json.gz +ne_all_0352.json.gz +ne_all_0353.json.gz +ne_all_0354.json.gz +ne_all_0355.json.gz +ne_all_0356.json.gz +ne_all_0357.json.gz +ne_all_0358.json.gz +ne_all_0359.json.gz +ne_all_0360.json.gz +ne_all_0361.json.gz +ne_all_0362.json.gz +ne_all_0363.json.gz +ne_all_0364.json.gz +ne_all_0365.json.gz +ne_all_0366.json.gz +ne_all_0367.json.gz +ne_all_0368.json.gz +ne_all_0369.json.gz +ne_all_0370.json.gz +ne_all_0371.json.gz +ne_all_0372.json.gz +ne_all_0373.json.gz +ne_all_0374.json.gz +ne_all_0375.json.gz +ne_all_0376.json.gz +ne_all_0377.json.gz +ne_all_0378.json.gz +ne_all_0379.json.gz +ne_all_0380.json.gz +ne_all_0381.json.gz +ne_all_0382.json.gz +ne_all_0383.json.gz +ne_all_0384.json.gz +ne_all_0385.json.gz +ne_all_0386.json.gz +ne_all_0387.json.gz +ne_all_0388.json.gz +ne_all_0389.json.gz +ne_all_0390.json.gz +ne_all_0391.json.gz +ne_all_0392.json.gz +ne_all_0393.json.gz +ne_all_0394.json.gz +ne_all_0395.json.gz +ne_all_0396.json.gz +ne_all_0397.json.gz +ne_all_0398.json.gz +ne_all_0399.json.gz +ne_all_0400.json.gz +ne_all_0401.json.gz +ne_all_0402.json.gz +ne_all_0403.json.gz +ne_all_0404.json.gz +ne_all_0405.json.gz +ne_all_0406.json.gz +ne_all_0407.json.gz +ne_all_0408.json.gz +ne_all_0409.json.gz +ne_all_0410.json.gz +ne_all_0411.json.gz +ne_all_0412.json.gz +ne_all_0413.json.gz +ne_all_0414.json.gz +ne_all_0415.json.gz +ne_all_0416.json.gz +ne_all_0417.json.gz +ne_all_0418.json.gz +ne_all_0419.json.gz +ne_all_0420.json.gz +ne_all_0421.json.gz +ne_all_0422.json.gz +ne_all_0423.json.gz +ne_all_0424.json.gz +ne_all_0425.json.gz +ne_all_0426.json.gz +ne_all_0427.json.gz +ne_all_0428.json.gz +ne_all_0429.json.gz +ne_all_0430.json.gz +ne_all_0431.json.gz +ne_all_0432.json.gz +ne_all_0433.json.gz +ne_all_0434.json.gz +ne_all_0435.json.gz +ne_all_0436.json.gz +ne_all_0437.json.gz +ne_all_0438.json.gz +ne_all_0439.json.gz +ne_all_0440.json.gz +ne_all_0441.json.gz +ne_all_0442.json.gz +ne_all_0443.json.gz +ne_all_0444.json.gz +ne_all_0445.json.gz +ne_all_0446.json.gz +ne_all_0447.json.gz +ne_all_0448.json.gz +ne_all_0449.json.gz +ne_all_0450.json.gz +ne_all_0451.json.gz +ne_all_0452.json.gz +ne_all_0453.json.gz +ne_all_0454.json.gz +ne_all_0455.json.gz +ne_all_0456.json.gz +ne_all_0457.json.gz +ne_all_0458.json.gz +ne_all_0459.json.gz +ne_all_0460.json.gz +ne_all_0461.json.gz +ne_all_0462.json.gz +ne_all_0463.json.gz +ne_all_0464.json.gz +ne_all_0465.json.gz +ne_all_0466.json.gz +ne_all_0467.json.gz +ne_all_0468.json.gz +ne_all_0469.json.gz +ne_all_0470.json.gz +ne_all_0471.json.gz +ne_all_0472.json.gz +ne_all_0473.json.gz +ne_all_0474.json.gz +ne_all_0475.json.gz +ne_all_0476.json.gz +ne_all_0477.json.gz +ne_all_0478.json.gz +ne_all_0479.json.gz +ne_all_0480.json.gz +ne_all_0481.json.gz +ne_all_0482.json.gz +ne_all_0483.json.gz +ne_all_0484.json.gz +ne_all_0485.json.gz +ne_all_0486.json.gz +ne_all_0487.json.gz +ne_all_0488.json.gz +ne_all_0489.json.gz +ne_all_0490.json.gz +ne_all_0491.json.gz +ne_all_0492.json.gz +ne_all_0493.json.gz +ne_all_0494.json.gz +ne_all_0495.json.gz +ne_all_0496.json.gz +ne_all_0497.json.gz +ne_all_0498.json.gz +ne_all_0499.json.gz +ne_all_0500.json.gz +ne_all_0501.json.gz +ne_all_0502.json.gz +ne_all_0503.json.gz +ne_all_0504.json.gz +ne_all_0505.json.gz +ne_all_0506.json.gz +ne_all_0507.json.gz +ne_all_0508.json.gz +ne_all_0509.json.gz +ne_all_0510.json.gz +ne_all_0511.json.gz +ne_all_0512.json.gz +ne_all_0513.json.gz +ne_all_0514.json.gz +ne_all_0515.json.gz +ne_all_0516.json.gz +ne_all_0517.json.gz +ne_all_0518.json.gz +ne_all_0519.json.gz +ne_all_0520.json.gz +ne_all_0521.json.gz +ne_all_0522.json.gz +ne_all_0523.json.gz +ne_all_0524.json.gz +ne_all_0525.json.gz +ne_all_0526.json.gz +ne_all_0527.json.gz +ne_all_0528.json.gz +ne_all_0529.json.gz +ne_all_0530.json.gz +ne_all_0531.json.gz +ne_all_0532.json.gz +ne_all_0533.json.gz +ne_all_0534.json.gz +ne_all_0535.json.gz +ne_all_0536.json.gz +ne_all_0537.json.gz +ne_all_0538.json.gz +ne_all_0539.json.gz +ne_all_0540.json.gz +ne_all_0541.json.gz +ne_all_0542.json.gz +ne_all_0543.json.gz +ne_all_0544.json.gz +ne_all_0545.json.gz +ne_all_0546.json.gz +ne_all_0547.json.gz +ne_all_0548.json.gz +ne_all_0549.json.gz +ne_all_0550.json.gz +ne_all_0551.json.gz +ne_all_0552.json.gz +ne_all_0553.json.gz +ne_all_0554.json.gz +ne_all_0555.json.gz +ne_all_0556.json.gz +ne_all_0557.json.gz +ne_all_0558.json.gz +ne_all_0559.json.gz +ne_all_0560.json.gz +ne_all_0561.json.gz +ne_all_0562.json.gz +ne_all_0563.json.gz +ne_all_0564.json.gz +ne_all_0565.json.gz +ne_all_0566.json.gz +ne_all_0567.json.gz +ne_all_0568.json.gz +ne_all_0569.json.gz +ne_all_0570.json.gz +ne_all_0571.json.gz +ne_all_0572.json.gz +ne_all_0573.json.gz +ne_all_0574.json.gz +ne_all_0575.json.gz +ne_all_0576.json.gz +ne_all_0577.json.gz +ne_all_0578.json.gz +ne_all_0579.json.gz +ne_all_0580.json.gz +ne_all_0581.json.gz +ne_all_0582.json.gz +ne_all_0583.json.gz +ne_all_0584.json.gz +ne_all_0585.json.gz +ne_all_0586.json.gz +ne_all_0587.json.gz +ne_all_0588.json.gz +ne_all_0589.json.gz +ne_all_0590.json.gz +ne_all_0591.json.gz +ne_all_0592.json.gz +ne_all_0593.json.gz +ne_all_0594.json.gz +ne_all_0595.json.gz +ne_all_0596.json.gz +ne_all_0597.json.gz +ne_all_0598.json.gz +ne_all_0599.json.gz +ne_all_0600.json.gz +ne_all_0601.json.gz +ne_all_0602.json.gz +ne_all_0603.json.gz +ne_all_0604.json.gz +ne_all_0605.json.gz +ne_all_0606.json.gz +ne_all_0607.json.gz +ne_all_0608.json.gz +ne_all_0609.json.gz +ne_all_0610.json.gz +ne_all_0611.json.gz +ne_all_0612.json.gz +ne_all_0613.json.gz +ne_all_0614.json.gz +ne_all_0615.json.gz +ne_all_0616.json.gz +ne_all_0617.json.gz +ne_all_0618.json.gz +ne_all_0619.json.gz +ne_all_0620.json.gz +ne_all_0621.json.gz +ne_all_0622.json.gz +ne_all_0623.json.gz +ne_all_0624.json.gz +ne_all_0625.json.gz +ne_all_0626.json.gz +ne_all_0627.json.gz +ne_all_0628.json.gz +ne_all_0629.json.gz +ne_all_0630.json.gz +ne_all_0631.json.gz +ne_all_0632.json.gz +ne_all_0633.json.gz +ne_all_0634.json.gz +ne_all_0635.json.gz +ne_all_0636.json.gz +ne_all_0637.json.gz +ne_all_0638.json.gz +ne_all_0639.json.gz +ne_all_0640.json.gz +ne_all_0641.json.gz +ne_all_0642.json.gz +ne_all_0643.json.gz +ne_all_0644.json.gz +ne_all_0645.json.gz +ne_all_0646.json.gz +ne_all_0647.json.gz +ne_all_0648.json.gz +ne_all_0649.json.gz +ne_all_0650.json.gz +ne_all_0651.json.gz +ne_all_0652.json.gz +ne_all_0653.json.gz +ne_all_0654.json.gz +ne_all_0655.json.gz +ne_all_0656.json.gz +ne_all_0657.json.gz +ne_all_0658.json.gz +ne_all_0659.json.gz +ne_all_0660.json.gz +ne_all_0661.json.gz +ne_all_0662.json.gz +ne_all_0663.json.gz +ne_all_0664.json.gz +ne_all_0665.json.gz +ne_all_0666.json.gz +ne_all_0667.json.gz +ne_all_0668.json.gz +ne_all_0669.json.gz +ne_all_0670.json.gz +ne_all_0671.json.gz +ne_all_0672.json.gz +ne_all_0673.json.gz +ne_all_0674.json.gz +ne_all_0675.json.gz +ne_all_0676.json.gz +ne_all_0677.json.gz +ne_all_0678.json.gz +ne_all_0679.json.gz +ne_all_0680.json.gz +ne_all_0681.json.gz +ne_all_0682.json.gz +ne_all_0683.json.gz +ne_all_0684.json.gz +ne_all_0685.json.gz +ne_all_0686.json.gz +ne_all_0687.json.gz +ne_all_0688.json.gz +ne_all_0689.json.gz +ne_all_0690.json.gz +ne_all_0691.json.gz +ne_all_0692.json.gz +ne_all_0693.json.gz +ne_all_0694.json.gz +ne_all_0695.json.gz +ne_all_0696.json.gz +ne_all_0697.json.gz +ne_all_0698.json.gz +ne_all_0699.json.gz +ne_all_0700.json.gz +ne_all_0701.json.gz +ne_all_0702.json.gz +ne_all_0703.json.gz +ne_all_0704.json.gz +ne_all_0705.json.gz +ne_all_0706.json.gz +ne_all_0707.json.gz +ne_all_0708.json.gz +ne_all_0709.json.gz +ne_all_0710.json.gz +ne_all_0711.json.gz +ne_all_0712.json.gz +ne_all_0713.json.gz +ne_all_0714.json.gz +ne_all_0715.json.gz +ne_all_0716.json.gz +ne_all_0717.json.gz +ne_all_0718.json.gz +ne_all_0719.json.gz +ne_all_0720.json.gz +ne_all_0721.json.gz +ne_all_0722.json.gz +ne_all_0723.json.gz +ne_all_0724.json.gz +ne_all_0725.json.gz +ne_all_0726.json.gz +ne_all_0727.json.gz +ne_all_0728.json.gz +ne_all_0729.json.gz +ne_all_0730.json.gz +ne_all_0731.json.gz +ne_all_0732.json.gz +ne_all_0733.json.gz +ne_all_0734.json.gz +ne_all_0735.json.gz +ne_all_0736.json.gz +ne_all_0737.json.gz +ne_all_0738.json.gz +ne_all_0739.json.gz +ne_all_0740.json.gz +ne_all_0741.json.gz +ne_all_0742.json.gz +ne_all_0743.json.gz +ne_all_0744.json.gz +ne_all_0745.json.gz +ne_all_0746.json.gz +ne_all_0747.json.gz +ne_all_0748.json.gz +ne_all_0749.json.gz +ne_all_0750.json.gz +ne_all_0751.json.gz +ne_all_0752.json.gz +ne_all_0753.json.gz +ne_all_0754.json.gz +ne_all_0755.json.gz +ne_all_0756.json.gz +ne_all_0757.json.gz +ne_all_0758.json.gz +ne_all_0759.json.gz +ne_all_0760.json.gz +ne_all_0761.json.gz +ne_all_0762.json.gz +ne_all_0763.json.gz +ne_all_0764.json.gz +ne_all_0765.json.gz +ne_all_0766.json.gz +ne_all_0767.json.gz +ne_all_0768.json.gz +ne_all_0769.json.gz +ne_all_0770.json.gz +ne_all_0771.json.gz +ne_all_0772.json.gz +ne_all_0773.json.gz +ne_all_0774.json.gz +ne_all_0775.json.gz +ne_all_0776.json.gz +ne_all_0777.json.gz +ne_all_0778.json.gz +ne_all_0779.json.gz +ne_all_0780.json.gz +ne_all_0781.json.gz +ne_all_0782.json.gz +ne_all_0783.json.gz +ne_all_0784.json.gz +ne_all_0785.json.gz +ne_all_0786.json.gz +ne_all_0787.json.gz +ne_all_0788.json.gz +ne_all_0789.json.gz +ne_all_0790.json.gz +ne_all_0791.json.gz +ne_all_0792.json.gz +ne_all_0793.json.gz +ne_all_0794.json.gz +ne_all_0795.json.gz +ne_all_0796.json.gz +ne_all_0797.json.gz +ne_all_0798.json.gz +ne_all_0799.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ta.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ta.txt new file mode 100644 index 0000000000000000000000000000000000000000..16245a2fcdc02e0cf9f21edc005e9be38e0e1824 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ta.txt @@ -0,0 +1,1600 @@ +ta_all_0000.json.gz +ta_all_0001.json.gz +ta_all_0002.json.gz +ta_all_0003.json.gz +ta_all_0004.json.gz +ta_all_0005.json.gz +ta_all_0006.json.gz +ta_all_0007.json.gz +ta_all_0008.json.gz +ta_all_0009.json.gz +ta_all_0010.json.gz +ta_all_0011.json.gz +ta_all_0012.json.gz +ta_all_0013.json.gz +ta_all_0014.json.gz +ta_all_0015.json.gz +ta_all_0016.json.gz +ta_all_0017.json.gz +ta_all_0018.json.gz +ta_all_0019.json.gz +ta_all_0020.json.gz +ta_all_0021.json.gz +ta_all_0022.json.gz +ta_all_0023.json.gz +ta_all_0024.json.gz +ta_all_0025.json.gz +ta_all_0026.json.gz +ta_all_0027.json.gz +ta_all_0028.json.gz +ta_all_0029.json.gz +ta_all_0030.json.gz +ta_all_0031.json.gz +ta_all_0032.json.gz +ta_all_0033.json.gz +ta_all_0034.json.gz +ta_all_0035.json.gz +ta_all_0036.json.gz +ta_all_0037.json.gz +ta_all_0038.json.gz +ta_all_0039.json.gz +ta_all_0040.json.gz +ta_all_0041.json.gz +ta_all_0042.json.gz +ta_all_0043.json.gz +ta_all_0044.json.gz +ta_all_0045.json.gz +ta_all_0046.json.gz +ta_all_0047.json.gz +ta_all_0048.json.gz +ta_all_0049.json.gz +ta_all_0050.json.gz +ta_all_0051.json.gz +ta_all_0052.json.gz +ta_all_0053.json.gz +ta_all_0054.json.gz +ta_all_0055.json.gz +ta_all_0056.json.gz +ta_all_0057.json.gz +ta_all_0058.json.gz +ta_all_0059.json.gz +ta_all_0060.json.gz +ta_all_0061.json.gz +ta_all_0062.json.gz +ta_all_0063.json.gz +ta_all_0064.json.gz +ta_all_0065.json.gz +ta_all_0066.json.gz +ta_all_0067.json.gz +ta_all_0068.json.gz +ta_all_0069.json.gz +ta_all_0070.json.gz +ta_all_0071.json.gz +ta_all_0072.json.gz +ta_all_0073.json.gz +ta_all_0074.json.gz +ta_all_0075.json.gz +ta_all_0076.json.gz +ta_all_0077.json.gz +ta_all_0078.json.gz +ta_all_0079.json.gz +ta_all_0080.json.gz +ta_all_0081.json.gz +ta_all_0082.json.gz +ta_all_0083.json.gz +ta_all_0084.json.gz +ta_all_0085.json.gz +ta_all_0086.json.gz +ta_all_0087.json.gz +ta_all_0088.json.gz +ta_all_0089.json.gz +ta_all_0090.json.gz +ta_all_0091.json.gz +ta_all_0092.json.gz +ta_all_0093.json.gz +ta_all_0094.json.gz +ta_all_0095.json.gz +ta_all_0096.json.gz +ta_all_0097.json.gz +ta_all_0098.json.gz +ta_all_0099.json.gz +ta_all_0100.json.gz +ta_all_0101.json.gz +ta_all_0102.json.gz +ta_all_0103.json.gz +ta_all_0104.json.gz +ta_all_0105.json.gz +ta_all_0106.json.gz +ta_all_0107.json.gz +ta_all_0108.json.gz +ta_all_0109.json.gz +ta_all_0110.json.gz +ta_all_0111.json.gz +ta_all_0112.json.gz +ta_all_0113.json.gz +ta_all_0114.json.gz +ta_all_0115.json.gz +ta_all_0116.json.gz +ta_all_0117.json.gz +ta_all_0118.json.gz +ta_all_0119.json.gz +ta_all_0120.json.gz +ta_all_0121.json.gz +ta_all_0122.json.gz +ta_all_0123.json.gz +ta_all_0124.json.gz +ta_all_0125.json.gz +ta_all_0126.json.gz +ta_all_0127.json.gz +ta_all_0128.json.gz +ta_all_0129.json.gz +ta_all_0130.json.gz +ta_all_0131.json.gz +ta_all_0132.json.gz +ta_all_0133.json.gz +ta_all_0134.json.gz +ta_all_0135.json.gz +ta_all_0136.json.gz +ta_all_0137.json.gz +ta_all_0138.json.gz +ta_all_0139.json.gz +ta_all_0140.json.gz +ta_all_0141.json.gz +ta_all_0142.json.gz +ta_all_0143.json.gz +ta_all_0144.json.gz +ta_all_0145.json.gz +ta_all_0146.json.gz +ta_all_0147.json.gz +ta_all_0148.json.gz +ta_all_0149.json.gz +ta_all_0150.json.gz +ta_all_0151.json.gz +ta_all_0152.json.gz +ta_all_0153.json.gz +ta_all_0154.json.gz +ta_all_0155.json.gz +ta_all_0156.json.gz +ta_all_0157.json.gz +ta_all_0158.json.gz +ta_all_0159.json.gz +ta_all_0160.json.gz +ta_all_0161.json.gz +ta_all_0162.json.gz +ta_all_0163.json.gz +ta_all_0164.json.gz +ta_all_0165.json.gz +ta_all_0166.json.gz +ta_all_0167.json.gz +ta_all_0168.json.gz +ta_all_0169.json.gz +ta_all_0170.json.gz +ta_all_0171.json.gz +ta_all_0172.json.gz +ta_all_0173.json.gz +ta_all_0174.json.gz +ta_all_0175.json.gz +ta_all_0176.json.gz +ta_all_0177.json.gz +ta_all_0178.json.gz +ta_all_0179.json.gz +ta_all_0180.json.gz +ta_all_0181.json.gz +ta_all_0182.json.gz +ta_all_0183.json.gz +ta_all_0184.json.gz +ta_all_0185.json.gz +ta_all_0186.json.gz +ta_all_0187.json.gz +ta_all_0188.json.gz +ta_all_0189.json.gz +ta_all_0190.json.gz +ta_all_0191.json.gz +ta_all_0192.json.gz +ta_all_0193.json.gz +ta_all_0194.json.gz +ta_all_0195.json.gz +ta_all_0196.json.gz +ta_all_0197.json.gz +ta_all_0198.json.gz +ta_all_0199.json.gz +ta_all_0200.json.gz +ta_all_0201.json.gz +ta_all_0202.json.gz +ta_all_0203.json.gz +ta_all_0204.json.gz +ta_all_0205.json.gz +ta_all_0206.json.gz +ta_all_0207.json.gz +ta_all_0208.json.gz +ta_all_0209.json.gz +ta_all_0210.json.gz +ta_all_0211.json.gz +ta_all_0212.json.gz +ta_all_0213.json.gz +ta_all_0214.json.gz +ta_all_0215.json.gz +ta_all_0216.json.gz +ta_all_0217.json.gz +ta_all_0218.json.gz +ta_all_0219.json.gz +ta_all_0220.json.gz +ta_all_0221.json.gz +ta_all_0222.json.gz +ta_all_0223.json.gz +ta_all_0224.json.gz +ta_all_0225.json.gz +ta_all_0226.json.gz +ta_all_0227.json.gz +ta_all_0228.json.gz +ta_all_0229.json.gz +ta_all_0230.json.gz +ta_all_0231.json.gz +ta_all_0232.json.gz +ta_all_0233.json.gz +ta_all_0234.json.gz +ta_all_0235.json.gz +ta_all_0236.json.gz +ta_all_0237.json.gz +ta_all_0238.json.gz +ta_all_0239.json.gz +ta_all_0240.json.gz +ta_all_0241.json.gz +ta_all_0242.json.gz +ta_all_0243.json.gz +ta_all_0244.json.gz +ta_all_0245.json.gz +ta_all_0246.json.gz +ta_all_0247.json.gz +ta_all_0248.json.gz +ta_all_0249.json.gz +ta_all_0250.json.gz +ta_all_0251.json.gz +ta_all_0252.json.gz +ta_all_0253.json.gz +ta_all_0254.json.gz +ta_all_0255.json.gz +ta_all_0256.json.gz +ta_all_0257.json.gz +ta_all_0258.json.gz +ta_all_0259.json.gz +ta_all_0260.json.gz +ta_all_0261.json.gz +ta_all_0262.json.gz +ta_all_0263.json.gz +ta_all_0264.json.gz +ta_all_0265.json.gz +ta_all_0266.json.gz +ta_all_0267.json.gz +ta_all_0268.json.gz +ta_all_0269.json.gz +ta_all_0270.json.gz +ta_all_0271.json.gz +ta_all_0272.json.gz +ta_all_0273.json.gz +ta_all_0274.json.gz +ta_all_0275.json.gz +ta_all_0276.json.gz +ta_all_0277.json.gz +ta_all_0278.json.gz +ta_all_0279.json.gz +ta_all_0280.json.gz +ta_all_0281.json.gz +ta_all_0282.json.gz +ta_all_0283.json.gz +ta_all_0284.json.gz +ta_all_0285.json.gz +ta_all_0286.json.gz +ta_all_0287.json.gz +ta_all_0288.json.gz +ta_all_0289.json.gz +ta_all_0290.json.gz +ta_all_0291.json.gz +ta_all_0292.json.gz +ta_all_0293.json.gz +ta_all_0294.json.gz +ta_all_0295.json.gz +ta_all_0296.json.gz +ta_all_0297.json.gz +ta_all_0298.json.gz +ta_all_0299.json.gz +ta_all_0300.json.gz +ta_all_0301.json.gz +ta_all_0302.json.gz +ta_all_0303.json.gz +ta_all_0304.json.gz +ta_all_0305.json.gz +ta_all_0306.json.gz +ta_all_0307.json.gz +ta_all_0308.json.gz +ta_all_0309.json.gz +ta_all_0310.json.gz +ta_all_0311.json.gz +ta_all_0312.json.gz +ta_all_0313.json.gz +ta_all_0314.json.gz +ta_all_0315.json.gz +ta_all_0316.json.gz +ta_all_0317.json.gz +ta_all_0318.json.gz +ta_all_0319.json.gz +ta_all_0320.json.gz +ta_all_0321.json.gz +ta_all_0322.json.gz +ta_all_0323.json.gz +ta_all_0324.json.gz +ta_all_0325.json.gz +ta_all_0326.json.gz +ta_all_0327.json.gz +ta_all_0328.json.gz +ta_all_0329.json.gz +ta_all_0330.json.gz +ta_all_0331.json.gz +ta_all_0332.json.gz +ta_all_0333.json.gz +ta_all_0334.json.gz +ta_all_0335.json.gz +ta_all_0336.json.gz +ta_all_0337.json.gz +ta_all_0338.json.gz +ta_all_0339.json.gz +ta_all_0340.json.gz +ta_all_0341.json.gz +ta_all_0342.json.gz +ta_all_0343.json.gz +ta_all_0344.json.gz +ta_all_0345.json.gz +ta_all_0346.json.gz +ta_all_0347.json.gz +ta_all_0348.json.gz +ta_all_0349.json.gz +ta_all_0350.json.gz +ta_all_0351.json.gz +ta_all_0352.json.gz +ta_all_0353.json.gz +ta_all_0354.json.gz +ta_all_0355.json.gz +ta_all_0356.json.gz +ta_all_0357.json.gz +ta_all_0358.json.gz +ta_all_0359.json.gz +ta_all_0360.json.gz +ta_all_0361.json.gz +ta_all_0362.json.gz +ta_all_0363.json.gz +ta_all_0364.json.gz +ta_all_0365.json.gz +ta_all_0366.json.gz +ta_all_0367.json.gz +ta_all_0368.json.gz +ta_all_0369.json.gz +ta_all_0370.json.gz +ta_all_0371.json.gz +ta_all_0372.json.gz +ta_all_0373.json.gz +ta_all_0374.json.gz +ta_all_0375.json.gz +ta_all_0376.json.gz +ta_all_0377.json.gz +ta_all_0378.json.gz +ta_all_0379.json.gz +ta_all_0380.json.gz +ta_all_0381.json.gz +ta_all_0382.json.gz +ta_all_0383.json.gz +ta_all_0384.json.gz +ta_all_0385.json.gz +ta_all_0386.json.gz +ta_all_0387.json.gz +ta_all_0388.json.gz +ta_all_0389.json.gz +ta_all_0390.json.gz +ta_all_0391.json.gz +ta_all_0392.json.gz +ta_all_0393.json.gz +ta_all_0394.json.gz +ta_all_0395.json.gz +ta_all_0396.json.gz +ta_all_0397.json.gz +ta_all_0398.json.gz +ta_all_0399.json.gz +ta_all_0400.json.gz +ta_all_0401.json.gz +ta_all_0402.json.gz +ta_all_0403.json.gz +ta_all_0404.json.gz +ta_all_0405.json.gz +ta_all_0406.json.gz +ta_all_0407.json.gz +ta_all_0408.json.gz +ta_all_0409.json.gz +ta_all_0410.json.gz +ta_all_0411.json.gz +ta_all_0412.json.gz +ta_all_0413.json.gz +ta_all_0414.json.gz +ta_all_0415.json.gz +ta_all_0416.json.gz +ta_all_0417.json.gz +ta_all_0418.json.gz +ta_all_0419.json.gz +ta_all_0420.json.gz +ta_all_0421.json.gz +ta_all_0422.json.gz +ta_all_0423.json.gz +ta_all_0424.json.gz +ta_all_0425.json.gz +ta_all_0426.json.gz +ta_all_0427.json.gz +ta_all_0428.json.gz +ta_all_0429.json.gz +ta_all_0430.json.gz +ta_all_0431.json.gz +ta_all_0432.json.gz +ta_all_0433.json.gz +ta_all_0434.json.gz +ta_all_0435.json.gz +ta_all_0436.json.gz +ta_all_0437.json.gz +ta_all_0438.json.gz +ta_all_0439.json.gz +ta_all_0440.json.gz +ta_all_0441.json.gz +ta_all_0442.json.gz +ta_all_0443.json.gz +ta_all_0444.json.gz +ta_all_0445.json.gz +ta_all_0446.json.gz +ta_all_0447.json.gz +ta_all_0448.json.gz +ta_all_0449.json.gz +ta_all_0450.json.gz +ta_all_0451.json.gz +ta_all_0452.json.gz +ta_all_0453.json.gz +ta_all_0454.json.gz +ta_all_0455.json.gz +ta_all_0456.json.gz +ta_all_0457.json.gz +ta_all_0458.json.gz +ta_all_0459.json.gz +ta_all_0460.json.gz +ta_all_0461.json.gz +ta_all_0462.json.gz +ta_all_0463.json.gz +ta_all_0464.json.gz +ta_all_0465.json.gz +ta_all_0466.json.gz +ta_all_0467.json.gz +ta_all_0468.json.gz +ta_all_0469.json.gz +ta_all_0470.json.gz +ta_all_0471.json.gz +ta_all_0472.json.gz +ta_all_0473.json.gz +ta_all_0474.json.gz +ta_all_0475.json.gz +ta_all_0476.json.gz +ta_all_0477.json.gz +ta_all_0478.json.gz +ta_all_0479.json.gz +ta_all_0480.json.gz +ta_all_0481.json.gz +ta_all_0482.json.gz +ta_all_0483.json.gz +ta_all_0484.json.gz +ta_all_0485.json.gz +ta_all_0486.json.gz +ta_all_0487.json.gz +ta_all_0488.json.gz +ta_all_0489.json.gz +ta_all_0490.json.gz +ta_all_0491.json.gz +ta_all_0492.json.gz +ta_all_0493.json.gz +ta_all_0494.json.gz +ta_all_0495.json.gz +ta_all_0496.json.gz +ta_all_0497.json.gz +ta_all_0498.json.gz +ta_all_0499.json.gz +ta_all_0500.json.gz +ta_all_0501.json.gz +ta_all_0502.json.gz +ta_all_0503.json.gz +ta_all_0504.json.gz +ta_all_0505.json.gz +ta_all_0506.json.gz +ta_all_0507.json.gz +ta_all_0508.json.gz +ta_all_0509.json.gz +ta_all_0510.json.gz +ta_all_0511.json.gz +ta_all_0512.json.gz +ta_all_0513.json.gz +ta_all_0514.json.gz +ta_all_0515.json.gz +ta_all_0516.json.gz +ta_all_0517.json.gz +ta_all_0518.json.gz +ta_all_0519.json.gz +ta_all_0520.json.gz +ta_all_0521.json.gz +ta_all_0522.json.gz +ta_all_0523.json.gz +ta_all_0524.json.gz +ta_all_0525.json.gz +ta_all_0526.json.gz +ta_all_0527.json.gz +ta_all_0528.json.gz +ta_all_0529.json.gz +ta_all_0530.json.gz +ta_all_0531.json.gz +ta_all_0532.json.gz +ta_all_0533.json.gz +ta_all_0534.json.gz +ta_all_0535.json.gz +ta_all_0536.json.gz +ta_all_0537.json.gz +ta_all_0538.json.gz +ta_all_0539.json.gz +ta_all_0540.json.gz +ta_all_0541.json.gz +ta_all_0542.json.gz +ta_all_0543.json.gz +ta_all_0544.json.gz +ta_all_0545.json.gz +ta_all_0546.json.gz +ta_all_0547.json.gz +ta_all_0548.json.gz +ta_all_0549.json.gz +ta_all_0550.json.gz +ta_all_0551.json.gz +ta_all_0552.json.gz +ta_all_0553.json.gz +ta_all_0554.json.gz +ta_all_0555.json.gz +ta_all_0556.json.gz +ta_all_0557.json.gz +ta_all_0558.json.gz +ta_all_0559.json.gz +ta_all_0560.json.gz +ta_all_0561.json.gz +ta_all_0562.json.gz +ta_all_0563.json.gz +ta_all_0564.json.gz +ta_all_0565.json.gz +ta_all_0566.json.gz +ta_all_0567.json.gz +ta_all_0568.json.gz +ta_all_0569.json.gz +ta_all_0570.json.gz +ta_all_0571.json.gz +ta_all_0572.json.gz +ta_all_0573.json.gz +ta_all_0574.json.gz +ta_all_0575.json.gz +ta_all_0576.json.gz +ta_all_0577.json.gz +ta_all_0578.json.gz +ta_all_0579.json.gz +ta_all_0580.json.gz +ta_all_0581.json.gz +ta_all_0582.json.gz +ta_all_0583.json.gz +ta_all_0584.json.gz +ta_all_0585.json.gz +ta_all_0586.json.gz +ta_all_0587.json.gz +ta_all_0588.json.gz +ta_all_0589.json.gz +ta_all_0590.json.gz +ta_all_0591.json.gz +ta_all_0592.json.gz +ta_all_0593.json.gz +ta_all_0594.json.gz +ta_all_0595.json.gz +ta_all_0596.json.gz +ta_all_0597.json.gz +ta_all_0598.json.gz +ta_all_0599.json.gz +ta_all_0600.json.gz +ta_all_0601.json.gz +ta_all_0602.json.gz +ta_all_0603.json.gz +ta_all_0604.json.gz +ta_all_0605.json.gz +ta_all_0606.json.gz +ta_all_0607.json.gz +ta_all_0608.json.gz +ta_all_0609.json.gz +ta_all_0610.json.gz +ta_all_0611.json.gz +ta_all_0612.json.gz +ta_all_0613.json.gz +ta_all_0614.json.gz +ta_all_0615.json.gz +ta_all_0616.json.gz +ta_all_0617.json.gz +ta_all_0618.json.gz +ta_all_0619.json.gz +ta_all_0620.json.gz +ta_all_0621.json.gz +ta_all_0622.json.gz +ta_all_0623.json.gz +ta_all_0624.json.gz +ta_all_0625.json.gz +ta_all_0626.json.gz +ta_all_0627.json.gz +ta_all_0628.json.gz +ta_all_0629.json.gz +ta_all_0630.json.gz +ta_all_0631.json.gz +ta_all_0632.json.gz +ta_all_0633.json.gz +ta_all_0634.json.gz +ta_all_0635.json.gz +ta_all_0636.json.gz +ta_all_0637.json.gz +ta_all_0638.json.gz +ta_all_0639.json.gz +ta_all_0640.json.gz +ta_all_0641.json.gz +ta_all_0642.json.gz +ta_all_0643.json.gz +ta_all_0644.json.gz +ta_all_0645.json.gz +ta_all_0646.json.gz +ta_all_0647.json.gz +ta_all_0648.json.gz +ta_all_0649.json.gz +ta_all_0650.json.gz +ta_all_0651.json.gz +ta_all_0652.json.gz +ta_all_0653.json.gz +ta_all_0654.json.gz +ta_all_0655.json.gz +ta_all_0656.json.gz +ta_all_0657.json.gz +ta_all_0658.json.gz +ta_all_0659.json.gz +ta_all_0660.json.gz +ta_all_0661.json.gz +ta_all_0662.json.gz +ta_all_0663.json.gz +ta_all_0664.json.gz +ta_all_0665.json.gz +ta_all_0666.json.gz +ta_all_0667.json.gz +ta_all_0668.json.gz +ta_all_0669.json.gz +ta_all_0670.json.gz +ta_all_0671.json.gz +ta_all_0672.json.gz +ta_all_0673.json.gz +ta_all_0674.json.gz +ta_all_0675.json.gz +ta_all_0676.json.gz +ta_all_0677.json.gz +ta_all_0678.json.gz +ta_all_0679.json.gz +ta_all_0680.json.gz +ta_all_0681.json.gz +ta_all_0682.json.gz +ta_all_0683.json.gz +ta_all_0684.json.gz +ta_all_0685.json.gz +ta_all_0686.json.gz +ta_all_0687.json.gz +ta_all_0688.json.gz +ta_all_0689.json.gz +ta_all_0690.json.gz +ta_all_0691.json.gz +ta_all_0692.json.gz +ta_all_0693.json.gz +ta_all_0694.json.gz +ta_all_0695.json.gz +ta_all_0696.json.gz +ta_all_0697.json.gz +ta_all_0698.json.gz +ta_all_0699.json.gz +ta_all_0700.json.gz +ta_all_0701.json.gz +ta_all_0702.json.gz +ta_all_0703.json.gz +ta_all_0704.json.gz +ta_all_0705.json.gz +ta_all_0706.json.gz +ta_all_0707.json.gz +ta_all_0708.json.gz +ta_all_0709.json.gz +ta_all_0710.json.gz +ta_all_0711.json.gz +ta_all_0712.json.gz +ta_all_0713.json.gz +ta_all_0714.json.gz +ta_all_0715.json.gz +ta_all_0716.json.gz +ta_all_0717.json.gz +ta_all_0718.json.gz +ta_all_0719.json.gz +ta_all_0720.json.gz +ta_all_0721.json.gz +ta_all_0722.json.gz +ta_all_0723.json.gz +ta_all_0724.json.gz +ta_all_0725.json.gz +ta_all_0726.json.gz +ta_all_0727.json.gz +ta_all_0728.json.gz +ta_all_0729.json.gz +ta_all_0730.json.gz +ta_all_0731.json.gz +ta_all_0732.json.gz +ta_all_0733.json.gz +ta_all_0734.json.gz +ta_all_0735.json.gz +ta_all_0736.json.gz +ta_all_0737.json.gz +ta_all_0738.json.gz +ta_all_0739.json.gz +ta_all_0740.json.gz +ta_all_0741.json.gz +ta_all_0742.json.gz +ta_all_0743.json.gz +ta_all_0744.json.gz +ta_all_0745.json.gz +ta_all_0746.json.gz +ta_all_0747.json.gz +ta_all_0748.json.gz +ta_all_0749.json.gz +ta_all_0750.json.gz +ta_all_0751.json.gz +ta_all_0752.json.gz +ta_all_0753.json.gz +ta_all_0754.json.gz +ta_all_0755.json.gz +ta_all_0756.json.gz +ta_all_0757.json.gz +ta_all_0758.json.gz +ta_all_0759.json.gz +ta_all_0760.json.gz +ta_all_0761.json.gz +ta_all_0762.json.gz +ta_all_0763.json.gz +ta_all_0764.json.gz +ta_all_0765.json.gz +ta_all_0766.json.gz +ta_all_0767.json.gz +ta_all_0768.json.gz +ta_all_0769.json.gz +ta_all_0770.json.gz +ta_all_0771.json.gz +ta_all_0772.json.gz +ta_all_0773.json.gz +ta_all_0774.json.gz +ta_all_0775.json.gz +ta_all_0776.json.gz +ta_all_0777.json.gz +ta_all_0778.json.gz +ta_all_0779.json.gz +ta_all_0780.json.gz +ta_all_0781.json.gz +ta_all_0782.json.gz +ta_all_0783.json.gz +ta_all_0784.json.gz +ta_all_0785.json.gz +ta_all_0786.json.gz +ta_all_0787.json.gz +ta_all_0788.json.gz +ta_all_0789.json.gz +ta_all_0790.json.gz +ta_all_0791.json.gz +ta_all_0792.json.gz +ta_all_0793.json.gz +ta_all_0794.json.gz +ta_all_0795.json.gz +ta_all_0796.json.gz +ta_all_0797.json.gz +ta_all_0798.json.gz +ta_all_0799.json.gz +ta_all_0800.json.gz +ta_all_0801.json.gz +ta_all_0802.json.gz +ta_all_0803.json.gz +ta_all_0804.json.gz +ta_all_0805.json.gz +ta_all_0806.json.gz +ta_all_0807.json.gz +ta_all_0808.json.gz +ta_all_0809.json.gz +ta_all_0810.json.gz +ta_all_0811.json.gz +ta_all_0812.json.gz +ta_all_0813.json.gz +ta_all_0814.json.gz +ta_all_0815.json.gz +ta_all_0816.json.gz +ta_all_0817.json.gz +ta_all_0818.json.gz +ta_all_0819.json.gz +ta_all_0820.json.gz +ta_all_0821.json.gz +ta_all_0822.json.gz +ta_all_0823.json.gz +ta_all_0824.json.gz +ta_all_0825.json.gz +ta_all_0826.json.gz +ta_all_0827.json.gz +ta_all_0828.json.gz +ta_all_0829.json.gz +ta_all_0830.json.gz +ta_all_0831.json.gz +ta_all_0832.json.gz +ta_all_0833.json.gz +ta_all_0834.json.gz +ta_all_0835.json.gz +ta_all_0836.json.gz +ta_all_0837.json.gz +ta_all_0838.json.gz +ta_all_0839.json.gz +ta_all_0840.json.gz +ta_all_0841.json.gz +ta_all_0842.json.gz +ta_all_0843.json.gz +ta_all_0844.json.gz +ta_all_0845.json.gz +ta_all_0846.json.gz +ta_all_0847.json.gz +ta_all_0848.json.gz +ta_all_0849.json.gz +ta_all_0850.json.gz +ta_all_0851.json.gz +ta_all_0852.json.gz +ta_all_0853.json.gz +ta_all_0854.json.gz +ta_all_0855.json.gz +ta_all_0856.json.gz +ta_all_0857.json.gz +ta_all_0858.json.gz +ta_all_0859.json.gz +ta_all_0860.json.gz +ta_all_0861.json.gz +ta_all_0862.json.gz +ta_all_0863.json.gz +ta_all_0864.json.gz +ta_all_0865.json.gz +ta_all_0866.json.gz +ta_all_0867.json.gz +ta_all_0868.json.gz +ta_all_0869.json.gz +ta_all_0870.json.gz +ta_all_0871.json.gz +ta_all_0872.json.gz +ta_all_0873.json.gz +ta_all_0874.json.gz +ta_all_0875.json.gz +ta_all_0876.json.gz +ta_all_0877.json.gz +ta_all_0878.json.gz +ta_all_0879.json.gz +ta_all_0880.json.gz +ta_all_0881.json.gz +ta_all_0882.json.gz +ta_all_0883.json.gz +ta_all_0884.json.gz +ta_all_0885.json.gz +ta_all_0886.json.gz +ta_all_0887.json.gz +ta_all_0888.json.gz +ta_all_0889.json.gz +ta_all_0890.json.gz +ta_all_0891.json.gz +ta_all_0892.json.gz +ta_all_0893.json.gz +ta_all_0894.json.gz +ta_all_0895.json.gz +ta_all_0896.json.gz +ta_all_0897.json.gz +ta_all_0898.json.gz +ta_all_0899.json.gz +ta_all_0900.json.gz +ta_all_0901.json.gz +ta_all_0902.json.gz +ta_all_0903.json.gz +ta_all_0904.json.gz +ta_all_0905.json.gz +ta_all_0906.json.gz +ta_all_0907.json.gz +ta_all_0908.json.gz +ta_all_0909.json.gz +ta_all_0910.json.gz +ta_all_0911.json.gz +ta_all_0912.json.gz +ta_all_0913.json.gz +ta_all_0914.json.gz +ta_all_0915.json.gz +ta_all_0916.json.gz +ta_all_0917.json.gz +ta_all_0918.json.gz +ta_all_0919.json.gz +ta_all_0920.json.gz +ta_all_0921.json.gz +ta_all_0922.json.gz +ta_all_0923.json.gz +ta_all_0924.json.gz +ta_all_0925.json.gz +ta_all_0926.json.gz +ta_all_0927.json.gz +ta_all_0928.json.gz +ta_all_0929.json.gz +ta_all_0930.json.gz +ta_all_0931.json.gz +ta_all_0932.json.gz +ta_all_0933.json.gz +ta_all_0934.json.gz +ta_all_0935.json.gz +ta_all_0936.json.gz +ta_all_0937.json.gz +ta_all_0938.json.gz +ta_all_0939.json.gz +ta_all_0940.json.gz +ta_all_0941.json.gz +ta_all_0942.json.gz +ta_all_0943.json.gz +ta_all_0944.json.gz +ta_all_0945.json.gz +ta_all_0946.json.gz +ta_all_0947.json.gz +ta_all_0948.json.gz +ta_all_0949.json.gz +ta_all_0950.json.gz +ta_all_0951.json.gz +ta_all_0952.json.gz +ta_all_0953.json.gz +ta_all_0954.json.gz +ta_all_0955.json.gz +ta_all_0956.json.gz +ta_all_0957.json.gz +ta_all_0958.json.gz +ta_all_0959.json.gz +ta_all_0960.json.gz +ta_all_0961.json.gz +ta_all_0962.json.gz +ta_all_0963.json.gz +ta_all_0964.json.gz +ta_all_0965.json.gz +ta_all_0966.json.gz +ta_all_0967.json.gz +ta_all_0968.json.gz +ta_all_0969.json.gz +ta_all_0970.json.gz +ta_all_0971.json.gz +ta_all_0972.json.gz +ta_all_0973.json.gz +ta_all_0974.json.gz +ta_all_0975.json.gz +ta_all_0976.json.gz +ta_all_0977.json.gz +ta_all_0978.json.gz +ta_all_0979.json.gz +ta_all_0980.json.gz +ta_all_0981.json.gz +ta_all_0982.json.gz +ta_all_0983.json.gz +ta_all_0984.json.gz +ta_all_0985.json.gz +ta_all_0986.json.gz +ta_all_0987.json.gz +ta_all_0988.json.gz +ta_all_0989.json.gz +ta_all_0990.json.gz +ta_all_0991.json.gz +ta_all_0992.json.gz +ta_all_0993.json.gz +ta_all_0994.json.gz +ta_all_0995.json.gz +ta_all_0996.json.gz +ta_all_0997.json.gz +ta_all_0998.json.gz +ta_all_0999.json.gz +ta_all_1000.json.gz +ta_all_1001.json.gz +ta_all_1002.json.gz +ta_all_1003.json.gz +ta_all_1004.json.gz +ta_all_1005.json.gz +ta_all_1006.json.gz +ta_all_1007.json.gz +ta_all_1008.json.gz +ta_all_1009.json.gz +ta_all_1010.json.gz +ta_all_1011.json.gz +ta_all_1012.json.gz +ta_all_1013.json.gz +ta_all_1014.json.gz +ta_all_1015.json.gz +ta_all_1016.json.gz +ta_all_1017.json.gz +ta_all_1018.json.gz +ta_all_1019.json.gz +ta_all_1020.json.gz +ta_all_1021.json.gz +ta_all_1022.json.gz +ta_all_1023.json.gz +ta_all_1024.json.gz +ta_all_1025.json.gz +ta_all_1026.json.gz +ta_all_1027.json.gz +ta_all_1028.json.gz +ta_all_1029.json.gz +ta_all_1030.json.gz +ta_all_1031.json.gz +ta_all_1032.json.gz +ta_all_1033.json.gz +ta_all_1034.json.gz +ta_all_1035.json.gz +ta_all_1036.json.gz +ta_all_1037.json.gz +ta_all_1038.json.gz +ta_all_1039.json.gz +ta_all_1040.json.gz +ta_all_1041.json.gz +ta_all_1042.json.gz +ta_all_1043.json.gz +ta_all_1044.json.gz +ta_all_1045.json.gz +ta_all_1046.json.gz +ta_all_1047.json.gz +ta_all_1048.json.gz +ta_all_1049.json.gz +ta_all_1050.json.gz +ta_all_1051.json.gz +ta_all_1052.json.gz +ta_all_1053.json.gz +ta_all_1054.json.gz +ta_all_1055.json.gz +ta_all_1056.json.gz +ta_all_1057.json.gz +ta_all_1058.json.gz +ta_all_1059.json.gz +ta_all_1060.json.gz +ta_all_1061.json.gz +ta_all_1062.json.gz +ta_all_1063.json.gz +ta_all_1064.json.gz +ta_all_1065.json.gz +ta_all_1066.json.gz +ta_all_1067.json.gz +ta_all_1068.json.gz +ta_all_1069.json.gz +ta_all_1070.json.gz +ta_all_1071.json.gz +ta_all_1072.json.gz +ta_all_1073.json.gz +ta_all_1074.json.gz +ta_all_1075.json.gz +ta_all_1076.json.gz +ta_all_1077.json.gz +ta_all_1078.json.gz +ta_all_1079.json.gz +ta_all_1080.json.gz +ta_all_1081.json.gz +ta_all_1082.json.gz +ta_all_1083.json.gz +ta_all_1084.json.gz +ta_all_1085.json.gz +ta_all_1086.json.gz +ta_all_1087.json.gz +ta_all_1088.json.gz +ta_all_1089.json.gz +ta_all_1090.json.gz +ta_all_1091.json.gz +ta_all_1092.json.gz +ta_all_1093.json.gz +ta_all_1094.json.gz +ta_all_1095.json.gz +ta_all_1096.json.gz +ta_all_1097.json.gz +ta_all_1098.json.gz +ta_all_1099.json.gz +ta_all_1100.json.gz +ta_all_1101.json.gz +ta_all_1102.json.gz +ta_all_1103.json.gz +ta_all_1104.json.gz +ta_all_1105.json.gz +ta_all_1106.json.gz +ta_all_1107.json.gz +ta_all_1108.json.gz +ta_all_1109.json.gz +ta_all_1110.json.gz +ta_all_1111.json.gz +ta_all_1112.json.gz +ta_all_1113.json.gz +ta_all_1114.json.gz +ta_all_1115.json.gz +ta_all_1116.json.gz +ta_all_1117.json.gz +ta_all_1118.json.gz +ta_all_1119.json.gz +ta_all_1120.json.gz +ta_all_1121.json.gz +ta_all_1122.json.gz +ta_all_1123.json.gz +ta_all_1124.json.gz +ta_all_1125.json.gz +ta_all_1126.json.gz +ta_all_1127.json.gz +ta_all_1128.json.gz +ta_all_1129.json.gz +ta_all_1130.json.gz +ta_all_1131.json.gz +ta_all_1132.json.gz +ta_all_1133.json.gz +ta_all_1134.json.gz +ta_all_1135.json.gz +ta_all_1136.json.gz +ta_all_1137.json.gz +ta_all_1138.json.gz +ta_all_1139.json.gz +ta_all_1140.json.gz +ta_all_1141.json.gz +ta_all_1142.json.gz +ta_all_1143.json.gz +ta_all_1144.json.gz +ta_all_1145.json.gz +ta_all_1146.json.gz +ta_all_1147.json.gz +ta_all_1148.json.gz +ta_all_1149.json.gz +ta_all_1150.json.gz +ta_all_1151.json.gz +ta_all_1152.json.gz +ta_all_1153.json.gz +ta_all_1154.json.gz +ta_all_1155.json.gz +ta_all_1156.json.gz +ta_all_1157.json.gz +ta_all_1158.json.gz +ta_all_1159.json.gz +ta_all_1160.json.gz +ta_all_1161.json.gz +ta_all_1162.json.gz +ta_all_1163.json.gz +ta_all_1164.json.gz +ta_all_1165.json.gz +ta_all_1166.json.gz +ta_all_1167.json.gz +ta_all_1168.json.gz +ta_all_1169.json.gz +ta_all_1170.json.gz +ta_all_1171.json.gz +ta_all_1172.json.gz +ta_all_1173.json.gz +ta_all_1174.json.gz +ta_all_1175.json.gz +ta_all_1176.json.gz +ta_all_1177.json.gz +ta_all_1178.json.gz +ta_all_1179.json.gz +ta_all_1180.json.gz +ta_all_1181.json.gz +ta_all_1182.json.gz +ta_all_1183.json.gz +ta_all_1184.json.gz +ta_all_1185.json.gz +ta_all_1186.json.gz +ta_all_1187.json.gz +ta_all_1188.json.gz +ta_all_1189.json.gz +ta_all_1190.json.gz +ta_all_1191.json.gz +ta_all_1192.json.gz +ta_all_1193.json.gz +ta_all_1194.json.gz +ta_all_1195.json.gz +ta_all_1196.json.gz +ta_all_1197.json.gz +ta_all_1198.json.gz +ta_all_1199.json.gz +ta_all_1200.json.gz +ta_all_1201.json.gz +ta_all_1202.json.gz +ta_all_1203.json.gz +ta_all_1204.json.gz +ta_all_1205.json.gz +ta_all_1206.json.gz +ta_all_1207.json.gz +ta_all_1208.json.gz +ta_all_1209.json.gz +ta_all_1210.json.gz +ta_all_1211.json.gz +ta_all_1212.json.gz +ta_all_1213.json.gz +ta_all_1214.json.gz +ta_all_1215.json.gz +ta_all_1216.json.gz +ta_all_1217.json.gz +ta_all_1218.json.gz +ta_all_1219.json.gz +ta_all_1220.json.gz +ta_all_1221.json.gz +ta_all_1222.json.gz +ta_all_1223.json.gz +ta_all_1224.json.gz +ta_all_1225.json.gz +ta_all_1226.json.gz +ta_all_1227.json.gz +ta_all_1228.json.gz +ta_all_1229.json.gz +ta_all_1230.json.gz +ta_all_1231.json.gz +ta_all_1232.json.gz +ta_all_1233.json.gz +ta_all_1234.json.gz +ta_all_1235.json.gz +ta_all_1236.json.gz +ta_all_1237.json.gz +ta_all_1238.json.gz +ta_all_1239.json.gz +ta_all_1240.json.gz +ta_all_1241.json.gz +ta_all_1242.json.gz +ta_all_1243.json.gz +ta_all_1244.json.gz +ta_all_1245.json.gz +ta_all_1246.json.gz +ta_all_1247.json.gz +ta_all_1248.json.gz +ta_all_1249.json.gz +ta_all_1250.json.gz +ta_all_1251.json.gz +ta_all_1252.json.gz +ta_all_1253.json.gz +ta_all_1254.json.gz +ta_all_1255.json.gz +ta_all_1256.json.gz +ta_all_1257.json.gz +ta_all_1258.json.gz +ta_all_1259.json.gz +ta_all_1260.json.gz +ta_all_1261.json.gz +ta_all_1262.json.gz +ta_all_1263.json.gz +ta_all_1264.json.gz +ta_all_1265.json.gz +ta_all_1266.json.gz +ta_all_1267.json.gz +ta_all_1268.json.gz +ta_all_1269.json.gz +ta_all_1270.json.gz +ta_all_1271.json.gz +ta_all_1272.json.gz +ta_all_1273.json.gz +ta_all_1274.json.gz +ta_all_1275.json.gz +ta_all_1276.json.gz +ta_all_1277.json.gz +ta_all_1278.json.gz +ta_all_1279.json.gz +ta_all_1280.json.gz +ta_all_1281.json.gz +ta_all_1282.json.gz +ta_all_1283.json.gz +ta_all_1284.json.gz +ta_all_1285.json.gz +ta_all_1286.json.gz +ta_all_1287.json.gz +ta_all_1288.json.gz +ta_all_1289.json.gz +ta_all_1290.json.gz +ta_all_1291.json.gz +ta_all_1292.json.gz +ta_all_1293.json.gz +ta_all_1294.json.gz +ta_all_1295.json.gz +ta_all_1296.json.gz +ta_all_1297.json.gz +ta_all_1298.json.gz +ta_all_1299.json.gz +ta_all_1300.json.gz +ta_all_1301.json.gz +ta_all_1302.json.gz +ta_all_1303.json.gz +ta_all_1304.json.gz +ta_all_1305.json.gz +ta_all_1306.json.gz +ta_all_1307.json.gz +ta_all_1308.json.gz +ta_all_1309.json.gz +ta_all_1310.json.gz +ta_all_1311.json.gz +ta_all_1312.json.gz +ta_all_1313.json.gz +ta_all_1314.json.gz +ta_all_1315.json.gz +ta_all_1316.json.gz +ta_all_1317.json.gz +ta_all_1318.json.gz +ta_all_1319.json.gz +ta_all_1320.json.gz +ta_all_1321.json.gz +ta_all_1322.json.gz +ta_all_1323.json.gz +ta_all_1324.json.gz +ta_all_1325.json.gz +ta_all_1326.json.gz +ta_all_1327.json.gz +ta_all_1328.json.gz +ta_all_1329.json.gz +ta_all_1330.json.gz +ta_all_1331.json.gz +ta_all_1332.json.gz +ta_all_1333.json.gz +ta_all_1334.json.gz +ta_all_1335.json.gz +ta_all_1336.json.gz +ta_all_1337.json.gz +ta_all_1338.json.gz +ta_all_1339.json.gz +ta_all_1340.json.gz +ta_all_1341.json.gz +ta_all_1342.json.gz +ta_all_1343.json.gz +ta_all_1344.json.gz +ta_all_1345.json.gz +ta_all_1346.json.gz +ta_all_1347.json.gz +ta_all_1348.json.gz +ta_all_1349.json.gz +ta_all_1350.json.gz +ta_all_1351.json.gz +ta_all_1352.json.gz +ta_all_1353.json.gz +ta_all_1354.json.gz +ta_all_1355.json.gz +ta_all_1356.json.gz +ta_all_1357.json.gz +ta_all_1358.json.gz +ta_all_1359.json.gz +ta_all_1360.json.gz +ta_all_1361.json.gz +ta_all_1362.json.gz +ta_all_1363.json.gz +ta_all_1364.json.gz +ta_all_1365.json.gz +ta_all_1366.json.gz +ta_all_1367.json.gz +ta_all_1368.json.gz +ta_all_1369.json.gz +ta_all_1370.json.gz +ta_all_1371.json.gz +ta_all_1372.json.gz +ta_all_1373.json.gz +ta_all_1374.json.gz +ta_all_1375.json.gz +ta_all_1376.json.gz +ta_all_1377.json.gz +ta_all_1378.json.gz +ta_all_1379.json.gz +ta_all_1380.json.gz +ta_all_1381.json.gz +ta_all_1382.json.gz +ta_all_1383.json.gz +ta_all_1384.json.gz +ta_all_1385.json.gz +ta_all_1386.json.gz +ta_all_1387.json.gz +ta_all_1388.json.gz +ta_all_1389.json.gz +ta_all_1390.json.gz +ta_all_1391.json.gz +ta_all_1392.json.gz +ta_all_1393.json.gz +ta_all_1394.json.gz +ta_all_1395.json.gz +ta_all_1396.json.gz +ta_all_1397.json.gz +ta_all_1398.json.gz +ta_all_1399.json.gz +ta_all_1400.json.gz +ta_all_1401.json.gz +ta_all_1402.json.gz +ta_all_1403.json.gz +ta_all_1404.json.gz +ta_all_1405.json.gz +ta_all_1406.json.gz +ta_all_1407.json.gz +ta_all_1408.json.gz +ta_all_1409.json.gz +ta_all_1410.json.gz +ta_all_1411.json.gz +ta_all_1412.json.gz +ta_all_1413.json.gz +ta_all_1414.json.gz +ta_all_1415.json.gz +ta_all_1416.json.gz +ta_all_1417.json.gz +ta_all_1418.json.gz +ta_all_1419.json.gz +ta_all_1420.json.gz +ta_all_1421.json.gz +ta_all_1422.json.gz +ta_all_1423.json.gz +ta_all_1424.json.gz +ta_all_1425.json.gz +ta_all_1426.json.gz +ta_all_1427.json.gz +ta_all_1428.json.gz +ta_all_1429.json.gz +ta_all_1430.json.gz +ta_all_1431.json.gz +ta_all_1432.json.gz +ta_all_1433.json.gz +ta_all_1434.json.gz +ta_all_1435.json.gz +ta_all_1436.json.gz +ta_all_1437.json.gz +ta_all_1438.json.gz +ta_all_1439.json.gz +ta_all_1440.json.gz +ta_all_1441.json.gz +ta_all_1442.json.gz +ta_all_1443.json.gz +ta_all_1444.json.gz +ta_all_1445.json.gz +ta_all_1446.json.gz +ta_all_1447.json.gz +ta_all_1448.json.gz +ta_all_1449.json.gz +ta_all_1450.json.gz +ta_all_1451.json.gz +ta_all_1452.json.gz +ta_all_1453.json.gz +ta_all_1454.json.gz +ta_all_1455.json.gz +ta_all_1456.json.gz +ta_all_1457.json.gz +ta_all_1458.json.gz +ta_all_1459.json.gz +ta_all_1460.json.gz +ta_all_1461.json.gz +ta_all_1462.json.gz +ta_all_1463.json.gz +ta_all_1464.json.gz +ta_all_1465.json.gz +ta_all_1466.json.gz +ta_all_1467.json.gz +ta_all_1468.json.gz +ta_all_1469.json.gz +ta_all_1470.json.gz +ta_all_1471.json.gz +ta_all_1472.json.gz +ta_all_1473.json.gz +ta_all_1474.json.gz +ta_all_1475.json.gz +ta_all_1476.json.gz +ta_all_1477.json.gz +ta_all_1478.json.gz +ta_all_1479.json.gz +ta_all_1480.json.gz +ta_all_1481.json.gz +ta_all_1482.json.gz +ta_all_1483.json.gz +ta_all_1484.json.gz +ta_all_1485.json.gz +ta_all_1486.json.gz +ta_all_1487.json.gz +ta_all_1488.json.gz +ta_all_1489.json.gz +ta_all_1490.json.gz +ta_all_1491.json.gz +ta_all_1492.json.gz +ta_all_1493.json.gz +ta_all_1494.json.gz +ta_all_1495.json.gz +ta_all_1496.json.gz +ta_all_1497.json.gz +ta_all_1498.json.gz +ta_all_1499.json.gz +ta_all_1500.json.gz +ta_all_1501.json.gz +ta_all_1502.json.gz +ta_all_1503.json.gz +ta_all_1504.json.gz +ta_all_1505.json.gz +ta_all_1506.json.gz +ta_all_1507.json.gz +ta_all_1508.json.gz +ta_all_1509.json.gz +ta_all_1510.json.gz +ta_all_1511.json.gz +ta_all_1512.json.gz +ta_all_1513.json.gz +ta_all_1514.json.gz +ta_all_1515.json.gz +ta_all_1516.json.gz +ta_all_1517.json.gz +ta_all_1518.json.gz +ta_all_1519.json.gz +ta_all_1520.json.gz +ta_all_1521.json.gz +ta_all_1522.json.gz +ta_all_1523.json.gz +ta_all_1524.json.gz +ta_all_1525.json.gz +ta_all_1526.json.gz +ta_all_1527.json.gz +ta_all_1528.json.gz +ta_all_1529.json.gz +ta_all_1530.json.gz +ta_all_1531.json.gz +ta_all_1532.json.gz +ta_all_1533.json.gz +ta_all_1534.json.gz +ta_all_1535.json.gz +ta_all_1536.json.gz +ta_all_1537.json.gz +ta_all_1538.json.gz +ta_all_1539.json.gz +ta_all_1540.json.gz +ta_all_1541.json.gz +ta_all_1542.json.gz +ta_all_1543.json.gz +ta_all_1544.json.gz +ta_all_1545.json.gz +ta_all_1546.json.gz +ta_all_1547.json.gz +ta_all_1548.json.gz +ta_all_1549.json.gz +ta_all_1550.json.gz +ta_all_1551.json.gz +ta_all_1552.json.gz +ta_all_1553.json.gz +ta_all_1554.json.gz +ta_all_1555.json.gz +ta_all_1556.json.gz +ta_all_1557.json.gz +ta_all_1558.json.gz +ta_all_1559.json.gz +ta_all_1560.json.gz +ta_all_1561.json.gz +ta_all_1562.json.gz +ta_all_1563.json.gz +ta_all_1564.json.gz +ta_all_1565.json.gz +ta_all_1566.json.gz +ta_all_1567.json.gz +ta_all_1568.json.gz +ta_all_1569.json.gz +ta_all_1570.json.gz +ta_all_1571.json.gz +ta_all_1572.json.gz +ta_all_1573.json.gz +ta_all_1574.json.gz +ta_all_1575.json.gz +ta_all_1576.json.gz +ta_all_1577.json.gz +ta_all_1578.json.gz +ta_all_1579.json.gz +ta_all_1580.json.gz +ta_all_1581.json.gz +ta_all_1582.json.gz +ta_all_1583.json.gz +ta_all_1584.json.gz +ta_all_1585.json.gz +ta_all_1586.json.gz +ta_all_1587.json.gz +ta_all_1588.json.gz +ta_all_1589.json.gz +ta_all_1590.json.gz +ta_all_1591.json.gz +ta_all_1592.json.gz +ta_all_1593.json.gz +ta_all_1594.json.gz +ta_all_1595.json.gz +ta_all_1596.json.gz +ta_all_1597.json.gz +ta_all_1598.json.gz +ta_all_1599.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/te.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/te.txt new file mode 100644 index 0000000000000000000000000000000000000000..ae68087db7c1e1ddf58aa62de0a5609636863c76 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/te.txt @@ -0,0 +1,320 @@ +te_all_0000.json.gz +te_all_0001.json.gz +te_all_0002.json.gz +te_all_0003.json.gz +te_all_0004.json.gz +te_all_0005.json.gz +te_all_0006.json.gz +te_all_0007.json.gz +te_all_0008.json.gz +te_all_0009.json.gz +te_all_0010.json.gz +te_all_0011.json.gz +te_all_0012.json.gz +te_all_0013.json.gz +te_all_0014.json.gz +te_all_0015.json.gz +te_all_0016.json.gz +te_all_0017.json.gz +te_all_0018.json.gz +te_all_0019.json.gz +te_all_0020.json.gz +te_all_0021.json.gz +te_all_0022.json.gz +te_all_0023.json.gz +te_all_0024.json.gz +te_all_0025.json.gz +te_all_0026.json.gz +te_all_0027.json.gz +te_all_0028.json.gz +te_all_0029.json.gz +te_all_0030.json.gz +te_all_0031.json.gz +te_all_0032.json.gz +te_all_0033.json.gz +te_all_0034.json.gz +te_all_0035.json.gz +te_all_0036.json.gz +te_all_0037.json.gz +te_all_0038.json.gz +te_all_0039.json.gz +te_all_0040.json.gz +te_all_0041.json.gz +te_all_0042.json.gz +te_all_0043.json.gz +te_all_0044.json.gz +te_all_0045.json.gz +te_all_0046.json.gz +te_all_0047.json.gz +te_all_0048.json.gz +te_all_0049.json.gz +te_all_0050.json.gz +te_all_0051.json.gz +te_all_0052.json.gz +te_all_0053.json.gz +te_all_0054.json.gz +te_all_0055.json.gz +te_all_0056.json.gz +te_all_0057.json.gz +te_all_0058.json.gz +te_all_0059.json.gz +te_all_0060.json.gz +te_all_0061.json.gz +te_all_0062.json.gz +te_all_0063.json.gz +te_all_0064.json.gz +te_all_0065.json.gz +te_all_0066.json.gz +te_all_0067.json.gz +te_all_0068.json.gz +te_all_0069.json.gz +te_all_0070.json.gz +te_all_0071.json.gz +te_all_0072.json.gz +te_all_0073.json.gz +te_all_0074.json.gz +te_all_0075.json.gz +te_all_0076.json.gz +te_all_0077.json.gz +te_all_0078.json.gz +te_all_0079.json.gz +te_all_0080.json.gz +te_all_0081.json.gz +te_all_0082.json.gz +te_all_0083.json.gz +te_all_0084.json.gz +te_all_0085.json.gz +te_all_0086.json.gz +te_all_0087.json.gz +te_all_0088.json.gz +te_all_0089.json.gz +te_all_0090.json.gz +te_all_0091.json.gz +te_all_0092.json.gz +te_all_0093.json.gz +te_all_0094.json.gz +te_all_0095.json.gz +te_all_0096.json.gz +te_all_0097.json.gz +te_all_0098.json.gz +te_all_0099.json.gz +te_all_0100.json.gz +te_all_0101.json.gz +te_all_0102.json.gz +te_all_0103.json.gz +te_all_0104.json.gz +te_all_0105.json.gz +te_all_0106.json.gz +te_all_0107.json.gz +te_all_0108.json.gz +te_all_0109.json.gz +te_all_0110.json.gz +te_all_0111.json.gz +te_all_0112.json.gz +te_all_0113.json.gz +te_all_0114.json.gz +te_all_0115.json.gz +te_all_0116.json.gz +te_all_0117.json.gz +te_all_0118.json.gz +te_all_0119.json.gz +te_all_0120.json.gz +te_all_0121.json.gz +te_all_0122.json.gz +te_all_0123.json.gz +te_all_0124.json.gz +te_all_0125.json.gz +te_all_0126.json.gz +te_all_0127.json.gz +te_all_0128.json.gz +te_all_0129.json.gz +te_all_0130.json.gz +te_all_0131.json.gz +te_all_0132.json.gz +te_all_0133.json.gz +te_all_0134.json.gz +te_all_0135.json.gz +te_all_0136.json.gz +te_all_0137.json.gz +te_all_0138.json.gz +te_all_0139.json.gz +te_all_0140.json.gz +te_all_0141.json.gz +te_all_0142.json.gz +te_all_0143.json.gz +te_all_0144.json.gz +te_all_0145.json.gz +te_all_0146.json.gz +te_all_0147.json.gz +te_all_0148.json.gz +te_all_0149.json.gz +te_all_0150.json.gz +te_all_0151.json.gz +te_all_0152.json.gz +te_all_0153.json.gz +te_all_0154.json.gz +te_all_0155.json.gz +te_all_0156.json.gz +te_all_0157.json.gz +te_all_0158.json.gz +te_all_0159.json.gz +te_all_0160.json.gz +te_all_0161.json.gz +te_all_0162.json.gz +te_all_0163.json.gz +te_all_0164.json.gz +te_all_0165.json.gz +te_all_0166.json.gz +te_all_0167.json.gz +te_all_0168.json.gz +te_all_0169.json.gz +te_all_0170.json.gz +te_all_0171.json.gz +te_all_0172.json.gz +te_all_0173.json.gz +te_all_0174.json.gz +te_all_0175.json.gz +te_all_0176.json.gz +te_all_0177.json.gz +te_all_0178.json.gz +te_all_0179.json.gz +te_all_0180.json.gz +te_all_0181.json.gz +te_all_0182.json.gz +te_all_0183.json.gz +te_all_0184.json.gz +te_all_0185.json.gz +te_all_0186.json.gz +te_all_0187.json.gz +te_all_0188.json.gz +te_all_0189.json.gz +te_all_0190.json.gz +te_all_0191.json.gz +te_all_0192.json.gz +te_all_0193.json.gz +te_all_0194.json.gz +te_all_0195.json.gz +te_all_0196.json.gz +te_all_0197.json.gz +te_all_0198.json.gz +te_all_0199.json.gz +te_all_0200.json.gz +te_all_0201.json.gz +te_all_0202.json.gz +te_all_0203.json.gz +te_all_0204.json.gz +te_all_0205.json.gz +te_all_0206.json.gz +te_all_0207.json.gz +te_all_0208.json.gz +te_all_0209.json.gz +te_all_0210.json.gz +te_all_0211.json.gz +te_all_0212.json.gz +te_all_0213.json.gz +te_all_0214.json.gz +te_all_0215.json.gz +te_all_0216.json.gz +te_all_0217.json.gz +te_all_0218.json.gz +te_all_0219.json.gz +te_all_0220.json.gz +te_all_0221.json.gz +te_all_0222.json.gz +te_all_0223.json.gz +te_all_0224.json.gz +te_all_0225.json.gz +te_all_0226.json.gz +te_all_0227.json.gz +te_all_0228.json.gz +te_all_0229.json.gz +te_all_0230.json.gz +te_all_0231.json.gz +te_all_0232.json.gz +te_all_0233.json.gz +te_all_0234.json.gz +te_all_0235.json.gz +te_all_0236.json.gz +te_all_0237.json.gz +te_all_0238.json.gz +te_all_0239.json.gz +te_all_0240.json.gz +te_all_0241.json.gz +te_all_0242.json.gz +te_all_0243.json.gz +te_all_0244.json.gz +te_all_0245.json.gz +te_all_0246.json.gz +te_all_0247.json.gz +te_all_0248.json.gz +te_all_0249.json.gz +te_all_0250.json.gz +te_all_0251.json.gz +te_all_0252.json.gz +te_all_0253.json.gz +te_all_0254.json.gz +te_all_0255.json.gz +te_all_0256.json.gz +te_all_0257.json.gz +te_all_0258.json.gz +te_all_0259.json.gz +te_all_0260.json.gz +te_all_0261.json.gz +te_all_0262.json.gz +te_all_0263.json.gz +te_all_0264.json.gz +te_all_0265.json.gz +te_all_0266.json.gz +te_all_0267.json.gz +te_all_0268.json.gz +te_all_0269.json.gz +te_all_0270.json.gz +te_all_0271.json.gz +te_all_0272.json.gz +te_all_0273.json.gz +te_all_0274.json.gz +te_all_0275.json.gz +te_all_0276.json.gz +te_all_0277.json.gz +te_all_0278.json.gz +te_all_0279.json.gz +te_all_0280.json.gz +te_all_0281.json.gz +te_all_0282.json.gz +te_all_0283.json.gz +te_all_0284.json.gz +te_all_0285.json.gz +te_all_0286.json.gz +te_all_0287.json.gz +te_all_0288.json.gz +te_all_0289.json.gz +te_all_0290.json.gz +te_all_0291.json.gz +te_all_0292.json.gz +te_all_0293.json.gz +te_all_0294.json.gz +te_all_0295.json.gz +te_all_0296.json.gz +te_all_0297.json.gz +te_all_0298.json.gz +te_all_0299.json.gz +te_all_0300.json.gz +te_all_0301.json.gz +te_all_0302.json.gz +te_all_0303.json.gz +te_all_0304.json.gz +te_all_0305.json.gz +te_all_0306.json.gz +te_all_0307.json.gz +te_all_0308.json.gz +te_all_0309.json.gz +te_all_0310.json.gz +te_all_0311.json.gz +te_all_0312.json.gz +te_all_0313.json.gz +te_all_0314.json.gz +te_all_0315.json.gz +te_all_0316.json.gz +te_all_0317.json.gz +te_all_0318.json.gz +te_all_0319.json.gz diff --git a/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ur.txt b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ur.txt new file mode 100644 index 0000000000000000000000000000000000000000..44185d5cadb56a1568630da482644ce2a8a09128 --- /dev/null +++ b/cc-multilingual-main/dedup/RedPajama-Data/listings/2023-50/ur.txt @@ -0,0 +1,534 @@ +ur_all_0000.json.gz +ur_all_0001.json.gz +ur_all_0002.json.gz +ur_all_0003.json.gz +ur_all_0004.json.gz +ur_all_0005.json.gz +ur_all_0006.json.gz +ur_all_0007.json.gz +ur_all_0008.json.gz +ur_all_0009.json.gz +ur_all_0010.json.gz +ur_all_0011.json.gz +ur_all_0012.json.gz +ur_all_0013.json.gz +ur_all_0014.json.gz +ur_all_0015.json.gz +ur_all_0016.json.gz +ur_all_0017.json.gz +ur_all_0018.json.gz +ur_all_0019.json.gz +ur_all_0020.json.gz +ur_all_0021.json.gz +ur_all_0022.json.gz +ur_all_0023.json.gz +ur_all_0024.json.gz +ur_all_0025.json.gz +ur_all_0026.json.gz +ur_all_0027.json.gz +ur_all_0028.json.gz +ur_all_0029.json.gz +ur_all_0030.json.gz +ur_all_0031.json.gz +ur_all_0032.json.gz +ur_all_0033.json.gz +ur_all_0034.json.gz +ur_all_0035.json.gz +ur_all_0036.json.gz +ur_all_0037.json.gz +ur_all_0038.json.gz +ur_all_0039.json.gz +ur_all_0040.json.gz +ur_all_0041.json.gz +ur_all_0042.json.gz +ur_all_0043.json.gz +ur_all_0044.json.gz +ur_all_0045.json.gz +ur_all_0046.json.gz +ur_all_0047.json.gz +ur_all_0048.json.gz +ur_all_0049.json.gz +ur_all_0050.json.gz +ur_all_0051.json.gz +ur_all_0052.json.gz +ur_all_0053.json.gz +ur_all_0054.json.gz +ur_all_0055.json.gz +ur_all_0056.json.gz +ur_all_0057.json.gz +ur_all_0058.json.gz +ur_all_0059.json.gz +ur_all_0060.json.gz +ur_all_0061.json.gz +ur_all_0062.json.gz +ur_all_0063.json.gz +ur_all_0064.json.gz +ur_all_0065.json.gz +ur_all_0066.json.gz +ur_all_0067.json.gz +ur_all_0068.json.gz +ur_all_0069.json.gz +ur_all_0070.json.gz +ur_all_0071.json.gz +ur_all_0072.json.gz +ur_all_0073.json.gz +ur_all_0074.json.gz +ur_all_0075.json.gz +ur_all_0076.json.gz +ur_all_0077.json.gz +ur_all_0078.json.gz +ur_all_0079.json.gz +ur_all_0080.json.gz +ur_all_0081.json.gz +ur_all_0082.json.gz +ur_all_0083.json.gz +ur_all_0084.json.gz +ur_all_0085.json.gz +ur_all_0086.json.gz +ur_all_0087.json.gz +ur_all_0088.json.gz +ur_all_0089.json.gz +ur_all_0090.json.gz +ur_all_0091.json.gz +ur_all_0092.json.gz +ur_all_0093.json.gz +ur_all_0094.json.gz +ur_all_0095.json.gz +ur_all_0096.json.gz +ur_all_0097.json.gz +ur_all_0098.json.gz +ur_all_0099.json.gz +ur_all_0100.json.gz +ur_all_0101.json.gz +ur_all_0102.json.gz +ur_all_0103.json.gz +ur_all_0104.json.gz +ur_all_0105.json.gz +ur_all_0106.json.gz +ur_all_0107.json.gz +ur_all_0108.json.gz +ur_all_0109.json.gz +ur_all_0110.json.gz +ur_all_0111.json.gz +ur_all_0112.json.gz +ur_all_0113.json.gz +ur_all_0114.json.gz +ur_all_0115.json.gz +ur_all_0116.json.gz +ur_all_0117.json.gz +ur_all_0118.json.gz +ur_all_0119.json.gz +ur_all_0120.json.gz +ur_all_0121.json.gz +ur_all_0122.json.gz +ur_all_0123.json.gz +ur_all_0124.json.gz +ur_all_0125.json.gz +ur_all_0126.json.gz +ur_all_0127.json.gz +ur_all_0128.json.gz +ur_all_0129.json.gz +ur_all_0130.json.gz +ur_all_0131.json.gz +ur_all_0132.json.gz +ur_all_0133.json.gz +ur_all_0134.json.gz +ur_all_0135.json.gz +ur_all_0136.json.gz +ur_all_0137.json.gz +ur_all_0138.json.gz +ur_all_0139.json.gz +ur_all_0140.json.gz +ur_all_0141.json.gz +ur_all_0142.json.gz +ur_all_0143.json.gz +ur_all_0144.json.gz +ur_all_0145.json.gz +ur_all_0146.json.gz +ur_all_0147.json.gz +ur_all_0148.json.gz +ur_all_0149.json.gz +ur_all_0150.json.gz +ur_all_0151.json.gz +ur_all_0152.json.gz +ur_all_0153.json.gz +ur_all_0154.json.gz +ur_all_0155.json.gz +ur_all_0156.json.gz +ur_all_0157.json.gz +ur_all_0158.json.gz +ur_all_0159.json.gz +ur_all_0160.json.gz +ur_all_0161.json.gz +ur_all_0162.json.gz +ur_all_0163.json.gz +ur_all_0164.json.gz +ur_all_0165.json.gz +ur_all_0166.json.gz +ur_all_0167.json.gz +ur_all_0168.json.gz +ur_all_0169.json.gz +ur_all_0170.json.gz +ur_all_0171.json.gz +ur_all_0172.json.gz +ur_all_0173.json.gz +ur_all_0174.json.gz +ur_all_0175.json.gz +ur_all_0176.json.gz +ur_all_0177.json.gz +ur_all_0178.json.gz +ur_all_0179.json.gz +ur_all_0180.json.gz +ur_all_0181.json.gz +ur_all_0182.json.gz +ur_all_0183.json.gz +ur_all_0184.json.gz +ur_all_0185.json.gz +ur_all_0186.json.gz +ur_all_0187.json.gz +ur_all_0188.json.gz +ur_all_0189.json.gz +ur_all_0190.json.gz +ur_all_0191.json.gz +ur_all_0192.json.gz +ur_all_0193.json.gz +ur_all_0194.json.gz +ur_all_0195.json.gz +ur_all_0196.json.gz +ur_all_0197.json.gz +ur_all_0198.json.gz +ur_all_0199.json.gz +ur_all_0200.json.gz +ur_all_0201.json.gz +ur_all_0202.json.gz +ur_all_0203.json.gz +ur_all_0204.json.gz +ur_all_0205.json.gz +ur_all_0206.json.gz +ur_all_0207.json.gz +ur_all_0208.json.gz +ur_all_0209.json.gz +ur_all_0210.json.gz +ur_all_0211.json.gz +ur_all_0212.json.gz +ur_all_0213.json.gz +ur_all_0214.json.gz +ur_all_0215.json.gz +ur_all_0216.json.gz +ur_all_0217.json.gz +ur_all_0218.json.gz +ur_all_0219.json.gz +ur_all_0220.json.gz +ur_all_0221.json.gz +ur_all_0222.json.gz +ur_all_0223.json.gz +ur_all_0224.json.gz +ur_all_0225.json.gz +ur_all_0226.json.gz +ur_all_0227.json.gz +ur_all_0228.json.gz +ur_all_0229.json.gz +ur_all_0230.json.gz +ur_all_0231.json.gz +ur_all_0232.json.gz +ur_all_0233.json.gz +ur_all_0234.json.gz +ur_all_0235.json.gz +ur_all_0236.json.gz +ur_all_0237.json.gz +ur_all_0238.json.gz +ur_all_0239.json.gz +ur_all_0240.json.gz +ur_all_0241.json.gz +ur_all_0242.json.gz +ur_all_0243.json.gz +ur_all_0244.json.gz +ur_all_0245.json.gz +ur_all_0246.json.gz +ur_all_0247.json.gz +ur_all_0248.json.gz +ur_all_0249.json.gz +ur_all_0250.json.gz +ur_all_0251.json.gz +ur_all_0252.json.gz +ur_all_0253.json.gz +ur_all_0254.json.gz +ur_all_0255.json.gz +ur_all_0256.json.gz +ur_all_0257.json.gz +ur_all_0258.json.gz +ur_all_0259.json.gz +ur_all_0260.json.gz +ur_all_0261.json.gz +ur_all_0262.json.gz +ur_all_0263.json.gz +ur_all_0264.json.gz +ur_all_0265.json.gz +ur_all_0266.json.gz +ur_all_0267.json.gz +ur_all_0268.json.gz +ur_all_0269.json.gz +ur_all_0270.json.gz +ur_all_0271.json.gz +ur_all_0272.json.gz +ur_all_0273.json.gz +ur_all_0274.json.gz +ur_all_0275.json.gz +ur_all_0276.json.gz +ur_all_0277.json.gz +ur_all_0278.json.gz +ur_all_0279.json.gz +ur_all_0280.json.gz +ur_all_0281.json.gz +ur_all_0282.json.gz +ur_all_0283.json.gz +ur_all_0284.json.gz +ur_all_0285.json.gz +ur_all_0286.json.gz +ur_all_0287.json.gz +ur_all_0288.json.gz +ur_all_0289.json.gz +ur_all_0290.json.gz +ur_all_0291.json.gz +ur_all_0292.json.gz +ur_all_0293.json.gz +ur_all_0294.json.gz +ur_all_0295.json.gz +ur_all_0296.json.gz +ur_all_0297.json.gz +ur_all_0298.json.gz +ur_all_0299.json.gz +ur_all_0300.json.gz +ur_all_0301.json.gz +ur_all_0302.json.gz +ur_all_0303.json.gz +ur_all_0304.json.gz +ur_all_0305.json.gz +ur_all_0306.json.gz +ur_all_0307.json.gz +ur_all_0308.json.gz +ur_all_0309.json.gz +ur_all_0310.json.gz +ur_all_0311.json.gz +ur_all_0312.json.gz +ur_all_0313.json.gz +ur_all_0314.json.gz +ur_all_0315.json.gz +ur_all_0316.json.gz +ur_all_0317.json.gz +ur_all_0318.json.gz +ur_all_0319.json.gz +ur_all_0320.json.gz +ur_all_0321.json.gz +ur_all_0322.json.gz +ur_all_0323.json.gz +ur_all_0324.json.gz +ur_all_0325.json.gz +ur_all_0326.json.gz +ur_all_0327.json.gz +ur_all_0328.json.gz +ur_all_0329.json.gz +ur_all_0330.json.gz +ur_all_0331.json.gz +ur_all_0332.json.gz +ur_all_0333.json.gz +ur_all_0334.json.gz +ur_all_0335.json.gz +ur_all_0336.json.gz +ur_all_0337.json.gz +ur_all_0338.json.gz +ur_all_0339.json.gz +ur_all_0340.json.gz +ur_all_0341.json.gz +ur_all_0342.json.gz +ur_all_0343.json.gz +ur_all_0344.json.gz +ur_all_0345.json.gz +ur_all_0346.json.gz +ur_all_0347.json.gz +ur_all_0348.json.gz +ur_all_0349.json.gz +ur_all_0350.json.gz +ur_all_0351.json.gz +ur_all_0352.json.gz +ur_all_0353.json.gz +ur_all_0354.json.gz +ur_all_0355.json.gz +ur_all_0356.json.gz +ur_all_0357.json.gz +ur_all_0358.json.gz +ur_all_0359.json.gz +ur_all_0360.json.gz +ur_all_0361.json.gz +ur_all_0362.json.gz +ur_all_0363.json.gz +ur_all_0364.json.gz +ur_all_0365.json.gz +ur_all_0366.json.gz +ur_all_0367.json.gz +ur_all_0368.json.gz +ur_all_0369.json.gz +ur_all_0370.json.gz +ur_all_0371.json.gz +ur_all_0372.json.gz +ur_all_0373.json.gz +ur_all_0374.json.gz +ur_all_0375.json.gz +ur_all_0376.json.gz +ur_all_0377.json.gz +ur_all_0378.json.gz +ur_all_0379.json.gz +ur_all_0380.json.gz +ur_all_0381.json.gz +ur_all_0382.json.gz +ur_all_0383.json.gz +ur_all_0384.json.gz +ur_all_0385.json.gz +ur_all_0386.json.gz +ur_all_0387.json.gz +ur_all_0388.json.gz +ur_all_0389.json.gz +ur_all_0390.json.gz +ur_all_0391.json.gz +ur_all_0392.json.gz +ur_all_0393.json.gz +ur_all_0394.json.gz +ur_all_0395.json.gz +ur_all_0396.json.gz +ur_all_0397.json.gz +ur_all_0398.json.gz +ur_all_0399.json.gz +ur_all_0400.json.gz +ur_all_0401.json.gz +ur_all_0402.json.gz +ur_all_0403.json.gz +ur_all_0404.json.gz +ur_all_0405.json.gz +ur_all_0406.json.gz +ur_all_0407.json.gz +ur_all_0408.json.gz +ur_all_0409.json.gz +ur_all_0410.json.gz +ur_all_0411.json.gz +ur_all_0412.json.gz +ur_all_0413.json.gz +ur_all_0414.json.gz +ur_all_0415.json.gz +ur_all_0416.json.gz +ur_all_0417.json.gz +ur_all_0418.json.gz +ur_all_0419.json.gz +ur_all_0420.json.gz +ur_all_0421.json.gz +ur_all_0422.json.gz +ur_all_0423.json.gz +ur_all_0424.json.gz +ur_all_0425.json.gz +ur_all_0426.json.gz +ur_all_0427.json.gz +ur_all_0428.json.gz +ur_all_0429.json.gz +ur_all_0430.json.gz +ur_all_0431.json.gz +ur_all_0432.json.gz +ur_all_0433.json.gz +ur_all_0434.json.gz +ur_all_0435.json.gz +ur_all_0436.json.gz +ur_all_0437.json.gz +ur_all_0438.json.gz +ur_all_0439.json.gz +ur_all_0440.json.gz +ur_all_0441.json.gz +ur_all_0442.json.gz +ur_all_0443.json.gz +ur_all_0444.json.gz +ur_all_0445.json.gz +ur_all_0446.json.gz +ur_all_0447.json.gz +ur_all_0448.json.gz +ur_all_0449.json.gz +ur_all_0450.json.gz +ur_all_0451.json.gz +ur_all_0452.json.gz +ur_all_0453.json.gz +ur_all_0454.json.gz +ur_all_0455.json.gz +ur_all_0456.json.gz +ur_all_0457.json.gz +ur_all_0458.json.gz +ur_all_0459.json.gz +ur_all_0460.json.gz +ur_all_0461.json.gz +ur_all_0462.json.gz +ur_all_0463.json.gz +ur_all_0464.json.gz +ur_all_0465.json.gz +ur_all_0466.json.gz +ur_all_0467.json.gz +ur_all_0468.json.gz +ur_all_0469.json.gz +ur_all_0470.json.gz +ur_all_0471.json.gz +ur_all_0472.json.gz +ur_all_0473.json.gz +ur_all_0474.json.gz +ur_all_0475.json.gz +ur_all_0476.json.gz +ur_all_0477.json.gz +ur_all_0478.json.gz +ur_all_0479.json.gz +ur_all_0480.json.gz +ur_all_0481.json.gz +ur_all_0482.json.gz +ur_all_0483.json.gz +ur_all_0484.json.gz +ur_all_0485.json.gz +ur_all_0486.json.gz +ur_all_0487.json.gz +ur_all_0488.json.gz +ur_all_0489.json.gz +ur_all_0490.json.gz +ur_all_0491.json.gz +ur_all_0492.json.gz +ur_all_0493.json.gz +ur_all_0494.json.gz +ur_all_0495.json.gz +ur_all_0496.json.gz +ur_all_0497.json.gz +ur_all_0498.json.gz +ur_all_0499.json.gz +ur_all_0500.json.gz +ur_all_0501.json.gz +ur_all_0502.json.gz +ur_all_0503.json.gz +ur_all_0504.json.gz +ur_all_0505.json.gz +ur_all_0506.json.gz +ur_all_0507.json.gz +ur_all_0508.json.gz +ur_all_0509.json.gz +ur_all_0510.json.gz +ur_all_0511.json.gz +ur_all_0512.json.gz +ur_all_0513.json.gz +ur_all_0514.json.gz +ur_all_0515.json.gz +ur_all_0516.json.gz +ur_all_0517.json.gz +ur_all_0518.json.gz +ur_all_0519.json.gz +ur_all_0520.json.gz +ur_all_0521.json.gz +ur_all_0522.json.gz +ur_all_0523.json.gz +ur_all_0524.json.gz +ur_all_0525.json.gz +ur_all_0526.json.gz +ur_all_0527.json.gz +ur_all_0528.json.gz +ur_all_0529.json.gz +ur_all_0530.json.gz +ur_all_0531.json.gz +ur_all_0532.json.gz +ur_all_0533.json.gz