1001 Freelance Projects
Latest Projects from Freelance Marketplaces
Today is: 22-Jul-2025 12:42 GMT
View Project
View this project in detail (Note: you will be redirected to external marketplace)
Project title: web scraping solution
Posted by: External project from PeoplePerHour
Started: 10-Dec-2024 04:53 GMT
Description: Requerimiento: Solución de Web Scraping para Portales de Medios de Información
Objetivo del Proyecto
Diseñar e implementar una solución automatizada de web scraping para recopilar información de portales de medios de información. Los datos recolectados deberán ser almacenados en una base de datos mediante la ejecución de un procedimiento almacenado (stored procedure) en SQL.
________________________________________
Alcance
1. Realizar scraping en sitios web de medios de información predefinidos, incluyendo, pero no limitado a:
o Noticias nacionales
o Noticias internacionales
o Deportes
o Entretenimiento
o Economía
2. Recolectar información clave, como:
o Título de la noticia
o Fecha de publicación
o Autor (si está disponible)
o Resumen o encabezado
o Contenido completo del artículo
o Categoría o sección del portal
o URL de la noticia
o Fuente del medio
3. Guardar los datos en una base de datos SQL mediante un stored procedure que permita:
o Validar la integridad de los datos antes de insertarlos.
o Evitar duplicidad de registros.
________________________________________
Requerimientos Funcionales
1. Extracción de Datos:
o Implementar un módulo para realizar scraping de páginas HTML dinámicas y estáticas.
o Manejar sitios con diferentes estructuras HTML, incluyendo aquellos que requieran interacción con JavaScript.
2. Gestión de Acceso:
o Incorporar control de acceso para sitios protegidos (si aplica), como inicios de sesión.
o Considerar técnicas anti-bloqueo (User-Agent Rotation, IP Proxy).
3. Almacenamiento de Datos:
o Diseñar un esquema en SQL que soporte la información recolectada.
o Implementar un procedimiento almacenado para insertar los datos en la base de datos, manejando validaciones como:
 Verificación de duplicados por URL.
 Registro de errores o inconsistencias en una tabla de logs.
4. Escalabilidad:
o Posibilidad de agregar nuevos portales sin modificar significativamente el código base.
5. Frecuencia:
o Programar ejecuciones automáticas en intervalos configurables (diario, semanal, etc.).
________________________________________
Requerimientos Técnicos
1. Lenguaje de Programación:
o Python (preferiblemente) o Node.js, utilizando frameworks como Beautiful Soup, Scrapy o Puppeteer.
2. Base de Datos:
o SQL Server o un motor compatible que permita la ejecución de procedimientos almacenados.
3. Integración con la Base de Datos:
o El programa de scraping debe ejecutar el stored procedure tras procesar cada lote de datos.
4. Manejo de Excepciones:
o Registro detallado de errores durante el scraping, almacenamiento o ejecución de stored procedures.
5. Compatibilidad:
o Diseñar la solución para que sea compatible con sistemas operativos Windows y Linux.
________________________________________
Criterios de Aceptación
1. La solución debe ser capaz de recolectar y almacenar información de al menos 5 portales de noticias iniciales.
2. La inserción en la base de datos debe completarse sin errores y siguiendo las validaciones establecidas.
3. El sistema debe ser modular para facilitar la adición de nuevos portales.
4. Los datos deben ser accesibles para consultas SQL tras su almacenamiento.
________________________________________
Project ID: 3411981
Project category:
Project budget:
View this project in detail (Note: you will be redirected to external marketplace)
Last Projects / Browse Projects
  Project Started
Debug & Upgrade Expo Go App
Category: Android, Debugging, IOS Development, IPhone, JavaScript, Mobile App Development, Mobile Development, MongoDB, Node.js, React Native
Budget: $10 - $30 USD
22-Jul-2025
10:04 GMT
English to Unknown Language Translation
Category: Copywriting, Editing, English (UK) Translator, English (US) Translator, English Translation, Language Tutoring, Proofreading, Translation
Budget: ₹12500 - ₹37500 INR
22-Jul-2025
10:04 GMT
Erstellen Sie mir ein Schmuckstück in Cinema 4d
Category: 3D Modelling, Cinema 4D
Budget: €8 - €30 EUR
22-Jul-2025
10:04 GMT
Literature Academic Paper Editing
Category: Academic Writing, Content Development, Copy Editing, Editing, English Grammar, Proofreading, Research Writing, Writing
Budget: $10 - $20 USD
22-Jul-2025
10:03 GMT
Refund to client in reference to previous project ID: 39583507
Category: Internet Marketing, Link Building, Marketing, Search Engine Marketing (SEM), SEO
Budget: £250 - £750 GBP
22-Jul-2025
10:03 GMT
Model Agency CMS & Promotion -- 2
Category: Lead Generation, Social Media Management, Social Media Marketing, Social Networking, Video Production, Virtual Assistant
Budget: €2 - €6 EUR
22-Jul-2025
10:03 GMT
Photoshop Expert for Text Removal
Category: Photo Editing, Photo Retouching, Photoshop
Budget: $10 - $30 USD
22-Jul-2025
10:01 GMT
Simple Accounting Website Redesign
Category: Graphic Design, Mobile App Development, PHP, UI / User Interface, UX / User Experience, Web Design, Web Development, Website Optimization, WordPress
Budget: $250 - $750 AUD
22-Jul-2025
10:01 GMT
Corporate Bank Needed
Category: Account Management, Business Development, Financial Analysis, Financial Consulting, Financial Planning, Investment Banking, Risk Management
Budget: $10000 - $20000 USD
22-Jul-2025
10:00 GMT
Simple Laravel SAAS Development
Category: API Integration, Laravel, MySQL, Payment Gateway Integration, PHP, Software Architecture, Stripe, Web Development
Budget: €8 - €30 EUR
22-Jul-2025
09:59 GMT
MLB The Show 25 PCI Automation Script
Category: Automation, Game Design, Game Development, JavaScript, Metatrader, PHP, Scripting, Software Architecture
Budget: $50 - $100 USD
22-Jul-2025
09:58 GMT
Desktop Application Endpoint Swapping
Category: .NET, API Development, Application Performance Monitoring, C#, Programming, Desktop Application, Microsoft SQL Server, Software Architecture, Software Development
Budget: ₹12500 - ₹37500 INR
22-Jul-2025
09:57 GMT
Long-Term Virtual Assistant Needed
Category: Customer Support, Data Entry, Data Processing, Excel, Google Sheets, Technical Support, Virtual Assistant, Web Development
Budget: $30 - $250 USD
22-Jul-2025
09:57 GMT
Lead Generation Expert for Ferro Alloys Export – Apollo.io
Category: B2B Marketing, Data Entry, Data Mining, Email Marketing, Lead Generation, Leads, Market Research, Web Search
Budget: ₹750 - ₹1250 INR
22-Jul-2025
09:57 GMT
Laravel Email Verification Fix
Category: Backend Development, Database Management, Laravel, MySQL, PHP, SMTP, Software Architecture, Web Development
Budget: ₹600 - ₹1500 INR
22-Jul-2025
09:57 GMT
Browse All Projects
Projects by Skills ...
Projects for 'android'
Projects for 'ajax'
Projects for 'asp'
Projects for 'aspnet'
Projects for 'cms'
Projects for 'cpp'
Projects for 'csharp'
Projects for 'css'
Projects for 'delphi'
Projects for 'design'
Projects for 'drupal'
Projects for 'excel'
Projects for 'facebook'
Projects for 'flash'
Projects for 'html'
Projects for 'java'
Projects for 'javascript'
Projects for 'joomla'
Projects for 'iphone'
Projects for 'mysql'
Projects for 'photoshop'
Projects for 'php'
Projects for 'python'
Projects for 'ruby'
Projects for 'seo'
Projects for 'sql'
Projects for 'sysadm'
Projects for 'translate'
Projects for 'typing'
Projects for 'twitter'
Projects for 'vbnet'
Projects for 'xml'
Projects for 'wordpress'
Projects for 'writing'
Read RSS feeds ... New!
RSS feed for 'android'
RSS feed for 'ajax'
RSS feed for 'asp'
RSS feed for 'aspnet'
RSS feed for 'cms'
RSS feed for 'cpp'
RSS feed for 'csharp'
RSS feed for 'css'
RSS feed for 'delphi'
RSS feed for 'design'
RSS feed for 'drupal'
RSS feed for 'excel'
RSS feed for 'facebook'
RSS feed for 'flash'
RSS feed for 'html'
RSS feed for 'java'
RSS feed for 'javascript'
RSS feed for 'joomla'
RSS feed for 'iphone'
RSS feed for 'mysql'
RSS feed for 'photoshop'
RSS feed for 'php'
RSS feed for 'python'
RSS feed for 'ruby'
RSS feed for 'seo'
RSS feed for 'sql'
RSS feed for 'sysadm'
RSS feed for 'translate'
RSS feed for 'typing'
RSS feed for 'twitter'
RSS feed for 'vbnet'
RSS feed for 'xml'
RSS feed for 'wordpress'
RSS feed for 'writing'
New!
Проекты на русском
(Projects in Russian)

Long URL:
www.1001freelanceprojects.com
Mobile version:
m.1001fp.com
Copyright © 2005-2024 1001 Freelance Projects