이혜인

Remove not needed large file

# Default ignored files
/shelf/
/workspace.xml
# Editor-based HTTP Client requests
/httpRequests/
# Datasource local storage ignored files
/dataSources/
/dataSources.local.xml
<?xml version="1.0" encoding="UTF-8"?>
<project version="4">
<component name="ProjectRootManager" version="2" languageLevel="JDK_15" default="true" project-jdk-name="15" project-jdk-type="JavaSDK">
<output url="file://$PROJECT_DIR$/out" />
</component>
</project>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<project version="4">
<component name="ProjectModuleManager">
<modules>
<module fileurl="file://$PROJECT_DIR$/WebCrawling.iml" filepath="$PROJECT_DIR$/WebCrawling.iml" />
</modules>
</component>
</project>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<project version="4">
<component name="VcsDirectoryMappings">
<mapping directory="$PROJECT_DIR$/.." vcs="Git" />
</component>
</project>
\ No newline at end of file
<?xml version="1.0" encoding="UTF-8"?>
<module type="JAVA_MODULE" version="4">
<component name="NewModuleRootManager" inherit-compiler-output="true">
<exclude-output />
<content url="file://$MODULE_DIR$">
<sourceFolder url="file://$MODULE_DIR$/src" isTestSource="false" />
</content>
<orderEntry type="inheritedJdk" />
<orderEntry type="sourceFolder" forTests="false" />
<orderEntry type="library" name="jsoup-1.15.1" level="project" />
</component>
</module>
\ No newline at end of file
This file is too large to display.
No preview for this file type
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import org.openqa.selenium.By;
import org.openqa.selenium.WebDriver;
import org.openqa.selenium.WebElement;
import org.openqa.selenium.chrome.ChromeDriver;
import org.openqa.selenium.chrome.ChromeOptions;
import java.awt.*;
import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;
import java.util.List;
import java.util.*;
class CGVMovieInfo { //CGV 영화 정보를 담는 class
private String title; //영화 제목
private int rank; //CGV 내 예매율 순위
private float score; //예매율
private String GoldenEgg; //골든에그 지수
private String movieCode; //CGV 고유 영화코드 - 예매 사이트 연결 시 사용
public CGVMovieInfo(String title, int rank, float score, String GoldenEgg, String movieCode) {
this.title = title;
this.rank = rank;
this.score = score;
this.GoldenEgg = GoldenEgg;
this.movieCode = movieCode;
}
public String getTitle() {
return title;
}
public void setTitle(String title) {
this.title = title;
}
public int getRank() {
return rank;
}
public void setRank(int rank) {
this.rank = rank;
}
public float getScore() {
return score;
}
public void setScore(float score) {
this.score = score;
}
public String getGoldenEgg() {
return GoldenEgg;
}
public void setGoldenEgg(String goldenEgg) {
GoldenEgg = goldenEgg;
}
public String getMovieCode() {
return movieCode;
}
public void setMovieCode(String movieCode) {
this.movieCode = movieCode;
}
public String getLink() {
return String.format("https://www.cgv.co.kr/ticket/?MOVIE_CD=%s&MOVIE_CD_GROUP=%s", this.movieCode, this.movieCode);
}
public void printMovieInfo(){
System.out.println("-------------------------------------------------------");
System.out.println(this.rank + " : " + this.title);
System.out.println("예매율 : " + this.score + "%");
System.out.println("골든에그지수 : " + this.GoldenEgg);
System.out.println("영화코드 : " + this.movieCode);
System.out.println("-------------------------------------------------------");
}
}
public class CGVExample {
public static final String WEB_DRIVER_ID = "webdriver.chrome.driver"; //드라이버 ID
public static final String WEB_DRIVER_PATH = "WebCrawling/chromedriver"; //드라이버 경로
public static void main(String[] args) {
Scanner scanner = new Scanner(System.in);
String url_movies = "https://www.cgv.co.kr/movies/?lt=1&ft=1"; //끝의 쿼리 0은 개봉 전 영화도 포함하는 것. 예매율 순위 가져오기
String url_theaters = "https://www.cgv.co.kr/theaters"; //영화관 정보 가져오는 링크.
String url_ticketing = "https://www.cgv.co.kr/ticket/"; //상영중인 영화 정보 가져오는 링크.
ArrayList<LinkedHashMap<String, String>> theaters = new ArrayList<>(); //지역별 영화관 HashMap(Key: 영화관, value:영화관별 고유코드)으로 이루어진 Arraylist
ArrayList<CGVMovieInfo> Movies = new ArrayList<>(); //CGVMovieInfo 클래스의 인스턴스들을 원소로 가지는 Arraylist
// 여기부터 영화관 및 영화관별 고유코드 가져오는 부분.
try{ //드라이버 설정
System.setProperty(WEB_DRIVER_ID,WEB_DRIVER_PATH);
}catch (Exception e){
e.printStackTrace();
}
ChromeOptions options = new ChromeOptions(); //크롬 설정을 담은 객체 생성
options.addArguments("headless"); //브라우저가 눈에 보이지 않고 컴파일러 내부에서 작동됨.
WebDriver driver_theaters = new ChromeDriver(options); //위에서 설정한 옵션을 파라미터로 넘겨주고, 드라이버 객체 생성.
driver_theaters.get(url_theaters); //WebDriver 객체를 해당 URL로 이동시킨다.
//브라우저 이동시 생기는 로드시간을 기다린다.
//HTTP 응답속도 보다 자바의 컴파일 속도가 더 빠르기 때문에 임의적으로 1초를 대기한다.
try {Thread.sleep(1000);} catch (InterruptedException e) {e.printStackTrace();}
//영화관 및 영화관에 대응되는 영화관별 고유 코드 가져오기.
List<WebElement> area = driver_theaters.findElements(By.className("area"));
for (WebElement elem : area) {
LinkedHashMap<String, String> theaters_info = new LinkedHashMap<>();
List<WebElement> theaters_by_area = elem.findElements(By.tagName("a"));
for (WebElement theater : theaters_by_area) {
String theater_name = theater.getAttribute("title").replace("CGV", "");
String theater_code = theater.getAttribute("href").replaceAll("(.+(?<=theaterCode=))|(.+(?<=theatercode=))", "").substring(0,4);
theaters_info.put(theater_name, theater_code);
}
theaters.add(theaters_info);
}
try {
driver_theaters.close(); //드라이버 연결 해제
driver_theaters.quit(); //프로세스 종료
} catch (Exception e) {
throw new RuntimeException(e.getMessage());
}
//여기부터 예매율 순위 가져오는 부분
Document doc_movies;
try {
doc_movies = Jsoup.connect(url_movies).get();
//예매율 Top19까지의 영화의 정보를 가져옴.
Elements elements1 = doc_movies.select("div.sect-movie-chart");
Iterator<Element> rank = elements1.select("strong.rank").iterator();
Iterator<Element> title = elements1.select("strong.title").iterator();
Iterator<Element> score = elements1.select("strong.percent").iterator();
Iterator<Element> GoldenEgg = elements1.select("span.percent").iterator();
Iterator<Element> link = elements1.select("a.link-reservation").iterator();
//영화 제목, 순위, 예매율, 영화 코드, 골든에그 지수를 가져와 CGVMovieInfo 객체 생성자에 파라미터로 넘겨주고, 인스턴스를 받아옴.
while(title.hasNext()){
String newTitle = title.next().text();
int newRank = Integer.parseInt(rank.next().text().replace("No.",""));
float newScore = Float.parseFloat(score.next().text().replace("예매율", "").replace("%", ""));
String newCode = link.next().attr("href").replaceAll("[^0-9]", "").substring(0,8);
CGVMovieInfo newMovie = new CGVMovieInfo(newTitle, newRank, newScore, GoldenEgg.next().text(), newCode);
Movies.add(newMovie);
}
}catch(IOException e){
e.printStackTrace();
}
for (CGVMovieInfo elem : Movies) {
//elem.printMovieInfo();
System.out.println(elem.getRank() + " : " + elem.getTitle());
}
//영화 이름(Integer 선택지), 영화관 지역 코드, 영화관 이름, 관람 일자 입력 시, (시간 선택 가능한) 예매 사이트로 이동.
System.out.print("예매하고 싶은 영화의 순위를 입력하세요 : ");
int inputRank = scanner.nextInt();
System.out.print("지역 코드를 입력하세요 : ");
int regionCode = scanner.nextInt();
System.out.print("영화관명을 입력하세요 : ");
String theaterName = scanner.next();
String theaterCode = theaters.get(regionCode).get(theaterName);
System.out.print("관람 일자를 입력하세요 : ");
int date = scanner.nextInt();
String otherFormat = String.format("THEATER_CD=%s&PLAY_YMD=%s", theaterCode, date);
url_ticketing += ("?" + otherFormat);
//예매 가능한 영화 리스트를 얻기 위해 빠른 예매 사이트로 이동.
WebDriver driver_ticketing = new ChromeDriver();
driver_ticketing.get(url_ticketing);
try {Thread.sleep(1000);} catch (InterruptedException e) {e.printStackTrace();}
//Frame 전환
WebElement selecting_area = driver_ticketing.switchTo().frame("ticket_iframe").findElement(By.className("theater-area-list"));
List<WebElement> selected_areas_list = selecting_area.findElements(By.cssSelector("ul > li > a > span.name"));
//지역 코드에 맞게 list element click
selected_areas_list.get(regionCode).click();
try {Thread.sleep(1000);} catch (InterruptedException e) {e.printStackTrace();}
//선택한 지역에 대응되는 영화관 정보 가져오기
WebElement selecting_theaters = selecting_area.findElement(By.cssSelector("ul > li.selected > div > ul"));
List<WebElement> selected_theaters_list = selecting_theaters.findElements(By.tagName("li"));
//프로그램 내부에서 가지고 있는 영화관코드와 웹에서 받아온 영화관코드가 일치하는 경우, selected_theaters_list element 클릭
for(WebElement theater_element : selected_theaters_list) {
if(theater_element.getAttribute("theater_cd").equals(theaterCode)){
theater_element.click();
try {Thread.sleep(1000);} catch (InterruptedException e) {e.printStackTrace();}
break;
}
}
//선택한 영화관에서, 선택한 일자에 상영하는 영화 목록 들고오기
WebElement selecting_movies = driver_ticketing.findElement(By.className("movie-select"));
List<WebElement> selected_movies_list = selecting_movies.findElements(By.cssSelector("#movie_list > ul > li"));
LinkedHashMap<String, String> accessible_movies = new LinkedHashMap<>();
//선택불가를 제외한 영화 제목 출력
for(WebElement movie_element : selected_movies_list){
String movie_enabled = movie_element.getAttribute("class");
if(movie_enabled.endsWith("dimmed"))
break;
else{
String title = movie_element.findElement(By.cssSelector("span.text")).getText();
String code = movie_element.getAttribute("movie_cd_group");
accessible_movies.put(title, code);
System.out.println(title + " : " + code);
}
}
try{
driver_ticketing.close(); //드라이버 연결 해제
driver_ticketing.quit(); //프로세스 종료
} catch (Exception e) {
throw new RuntimeException(e.getMessage());
}
try{
Desktop.getDesktop().browse(new URI(Movies.get(inputRank - 1).getLink() + "&" + otherFormat));
}
catch(IndexOutOfBoundsException | URISyntaxException | IOException e){
System.out.println(e.getClass());
}
}
}
require('chromedriver');
const request = require('request');
const cheerio = require('cheerio');
const puppeteer = require('puppeteer');
const async = require('async');
let express = require('express');
let app = express();
let bodyParser = require('body-parser');
const { timeout } = require('async');
const {Builder,until} = require('selenium-webdriver'); //모듈 불러오기
const webdriver = require('selenium-webdriver');
const chrome = require('selenium-webdriver/chrome');
const { delayed } = require('selenium-webdriver/lib/promise');
const By = webdriver.By;
app.use(bodyParser.urlencoded({ extended: false }));
app.use(bodyParser.json());
const url_movies = "https://www.cgv.co.kr/movies/?lt=1&ft=0"; //끝의 쿼리 0은 개봉 전 영화도 포함하는 것. 예매율 순위 가져오기
const url_theaters = "https://www.cgv.co.kr/theaters"; //영화관 정보 가져오는 링크.
const url_ticketing = "https://www.cgv.co.kr/ticket/"; //상영중인 영화 정보 가져오는 링크.
let cgv_theaters = []; //영화관과 영화관 고유 코드를 담는 배열
let cgv_movies = []; //예매율 상위 19위까지의 영화 정보(CGVMovieInfo Class의 인스턴스)들을 담는 배열.
let cgv_accessible_movies = []; //선택한 일자, 영화관에서 예매할 수 있는 영화 이름과 영화 고유 코드를 담는 배열.
class CGVMovieInfo {
constructor(title, rank, score, GoldenEgg, movieCode){
this.title = title;
this.rank = rank;
this.score = score;
this.GoldenEgg = GoldenEgg;
this.movieCode = movieCode;
}
getTitle() { return this.title; }
setTitle(title) { this.title = title; }
getRank() { return this.rank; }
setRank(rank) { this.rank = rank; }
getScore() { return this.score; }
setScore(score) { this.score = score; }
getGoldenEgg() { return this.GoldenEgg; }
setGoldenEgg(GoldenEgg) { this.GoldenEgg = GoldenEgg; }
getMovieCode() { return this.movieCode; }
setMovieCode(movieCode) { this.movieCode = movieCode; }
printMovieInfo(){
return {
'rank': this.rank + " : " + this.title,
'score': "예매율 : " + this.score + "%",
'goldenEgg': "골든에그지수 : " + this.GoldenEgg,
'movieCode': "영화코드 : " + this.movieCode
};
}
}
async.waterfall([
async () => {
//크롬 설정을 담은 객체 생성
const driver_theaters = new webdriver.Builder().forBrowser('chrome').setChromeOptions(new chrome.Options().headless()).build();
driver_theaters.get(url_theaters);
//영화관 및 영화관에 대응되는 영화관별 고유 코드 가져오기.
let selector = '#contents > div.sect-common > div > div.sect-city > ul > li:nth-child({}) > div > ul > li > a';
let area = [];
for(let i = 1; i <= 9; i++){
let region = await driver_theaters.wait(until.elementsLocated(By.css(selector.replace("{}", i))));
area.push(region);
}
for (const theaters_by_area of area) {
let theaters_info_by_area = [];
for (const theater of theaters_by_area){
let theater_info = {
"theater_name" : await theater.getAttribute('title'),
"theater_code" : await theater.getAttribute('href')
};
theater_info.theater_name = theater_info.theater_name.replace("CGV", "")
theater_info.theater_code = theater_info.theater_code.replace(/(.+(?<=theaterCode=))|(.+(?<=theatercode=))/, "").substring(0,4);
theaters_info_by_area.push(theater_info);
}
cgv_theaters.push(theaters_info_by_area);
}
driver_theaters.close();
},
async () => {
const driver_movies = new webdriver.Builder().forBrowser('chrome').setChromeOptions(new chrome.Options().headless()).build();
driver_movies.get(url_movies);
//예매율 Top19까지의 영화의 정보를 가져옴.
const rank = await driver_movies.wait(until.elementsLocated(By.css("strong.rank")));
const title = await driver_movies.wait(until.elementsLocated(By.css("strong.title")));
const score = await driver_movies.wait(until.elementsLocated(By.css("strong.percent")));
const GoldenEgg = await driver_movies.wait(until.elementsLocated(By.css("span.percent")));
const link = await driver_movies.wait(until.elementsLocated(By.css("a.link-reservation")));
//영화 제목, 순위, 예매율, 영화 코드, 골든에그 지수를 가져와 CGVMovieInfo 객체 생성자에 파라미터로 넘겨주고, 인스턴스를 받아옴.
for (let i = 0; i < rank.length; i++) {
const newTitle = await title[i].getText();
const newRank = await rank[i].getText();
const newScore = await score[i].getText();
const newCode = await link[i].getAttribute("href");
const newMovie = new CGVMovieInfo(newTitle, parseInt(newRank.replace("No.", "")), newScore.replace("예매율", "").replace("%", ""), await GoldenEgg[i].getText(), newCode.replace(/[^0-9]/g, "").substring(0,8));
cgv_movies.push(newMovie);
}
driver_movies.close();
}
])
app.get('/cgv_theaters', (req, res) => {
res.send(cgv_theaters[0]);
});
app.post('/ticketing', async (req, res, next) => {
//영화관 이름과 날짜를 가져옴.
const theaterName = req.body.theaterName;
const date = req.body.date;
const LocateQuery = "?PLAY_YMD={}".replace("{}", date);
//입력된 영화관에 맞는 지역 코드와 영화관 고유코드 찾기
let regionCode = 0, theaterCode = "";
for(let i = 0; i < 9; i++){
for(const elem of cgv_theaters[i]){
if(elem.theater_name == theaterName){
regionCode = i;
theaterCode = elem.theater_code;
break;
}
}
}
//예매 가능한 영화 리스트를 얻기 위해 빠른 예매 사이트로 이동.
const driver_ticketing = new webdriver.Builder().forBrowser('chrome').setChromeOptions(new chrome.Options()).build();
driver_ticketing.get(url_ticketing + LocateQuery);
driver_ticketing.switchTo().frame("ticket_iframe"); //Frame 전환
//지역 코드에 맞게 list element click
const selected_areas_list = await driver_ticketing.wait(until.elementsLocated(By.css("#theater_area_list > ul > li > a > span.name")));
await selected_areas_list[regionCode].click();
driver_ticketing.sleep(1000);
//선택한 지역에 대응되는 영화관 정보 가져오기
const selected_theaters_list = await driver_ticketing.wait(until.elementsLocated(By.css("#theater_area_list > ul > li.selected > div > ul > li")));
//프로그램 내부에서 가지고 있는 영화관코드와 웹에서 받아온 영화관코드가 일치하는 경우, selected_theaters_list element 클릭
for (const theater_element of selected_theaters_list){
if(await theater_element.getAttribute("theater_cd") == theaterCode){
await theater_element.click();
driver_ticketing.sleep(1000);
break;
}
}
//선택한 영화관에서, 선택한 일자에 상영하는 영화 목록 들고오기
const selected_movies_list = await driver_ticketing.wait(until.elementsLocated(By.css("#movie_list > ul > li > a > span.text")));
const codes_of_selected_movies = await driver_ticketing.wait(until.elementsLocated(By.css("#movie_list > ul > li")));
//선택불가를 제외한 영화 제목 및 영화 코드 가져오기.
for(let i = 0; i < selected_movies_list.length; i++){
const movie_enabled = await codes_of_selected_movies[i].getAttribute("class")
if(movie_enabled.endsWith("dimmed"))
break;
const accessible_movie = {
"movie_title": await selected_movies_list[i].getText(),
"movie_code" : await codes_of_selected_movies[i].getAttribute("movie_cd_group")
}
cgv_accessible_movies.push(accessible_movie);
}
driver_ticketing.close();
res.send(cgv_accessible_movies);
});
app.listen(23023);
\ No newline at end of file
{
"name": "test01",
"version": "1.0.0",
"description": "",
"main": "index.js",
"scripts": {
"test": "echo \"Error: no test specified\" && exit 1"
},
"author": "",
"license": "ISC",
"dependencies": {
"async": "^3.2.3",
"body-parser": "^1.20.0",
"cheerio": "^1.0.0-rc.11",
"express": "^4.18.1",
"puppeteer": "^14.1.1",
"selenium-webdriver": "^4.1.2"
}
}