Pt:Import/Catalogue/Brazil PMPA Addresses Import

From OpenStreetMap Wiki
Jump to navigation Jump to search

Importação da camada de numeração de endereços da PMPA


* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *

NOTA:
PARA QUEM QUISER CONTINUAR COM O PROCESSO:
- VER NOTA ÍTEM 3, ETAPA 5

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *

Proposta importação da camada de numeração de endereços do material em .mdb cedido pela SMF/PMPA (Secretaria da Fazenda/Prefeitura Municipal de Porto Alegre), tendo em vista a conversão às correspondentes tags OSM addr:housenumber=* e addr:unit=* (unit: mais genérico para considerar todas as possíveis variedades de subdivisões em uma numeração de endereço, como unidades).

-Proposta. Em desenvolvimento.

Documentação

Agradecendo inicialmente sobretudo ao Thierry Jean, pelos contatos de divulgação do OSM aos órgãos públicos, facilitando o acesso aos dados disponibilizados.

1) Pedido de disponibilização ao OSM dos dados de numeração georreferenciada da SMF/PMPA autorizado conforme despacho de 29/01/2019.
Conforme descrição da SMF [1], o material original constitui-se de dados de numeração em forma de "annotation", contidos nas tabelas NUM e NUM2, em banco de dados em .mdb .

  • A Tabela NUM (aqui nesta proposta nomeada de Tabela NUM1) corresponde ao material ainda não totalmente compatibilizado com o mais recente levantamento aerofotogramétrico da Prefeitura, sendo possível conter eventuais deslocamentos ou problemas de numeração;
  • A Tabela NUM2 corresponde ao material mais atualizado, já compatibilizado com o mais recente levantamento aerofotogramétrico da Prefeitura.

Descrições a seguir.

2) Publicação desta wiki como proposta formalizada: em 07/02/2019, no talk-br

Metodologia

Procedimentos iniciais

DESCRIÇÃO DOS DADOS DE ENDEREÇOS NO ARQUIVO ORIGINAL

ARQUIVO ORIGINAL:	DESCRIÇÃO:
Numeracao.mdb		Tamanho: 250 MB ; tipo "annotation" (texto formatado).
Nas tabelas "NUM" e "NUM2" está contida a numeração de endereços georreferenciados, propostos a serem importados.

TABELAS PRINCIPAIS (OBJETO DA IMPORTAÇÃO):
NUM 			= 65577 objetos; não compatibilizada; não atualizada; 
			pode ter deslocamentos, ou mais de 01 número por lote; coordenadas em X,Y.
NUM2 			= 137484 objetos; compatibilizada; é a mais atualizada, 
			cf. atual levantamento aerofotogramétrico da PMPA; coordenadas em X,Y.

TABELAS AUXILIARES (PARA FUTURA MANUTENÇÃO DOS DADOS):
DELTA_NUMFIM		= 203061 objetos; contém a referência ao total de objetos das "annotations" de NUM e NUM2 
			no campo DELTA_ID com numeração iniciando por NUM2 (compatibilizadas); não contém coordenadas.
			Serve para possibilidade de manutenção futura dos dados importados ao OSM: 
			indica novas atualizações ocorridas na origem; necessita neste caso de eventuais 
                        futuras novas solicitações dos dados à Prefeitura, com as novas atualizações, para atualização no OSM. 
GDB_SpatialRefs		Contém o Sistema de Referência de Coordenadas (CRS): CRS="SIRGAS2000"; Projeção="TM-POA".
                        Documentação oficial do Sistema de Referência estabelecido pela Prefeitura de Porto Alegre: [2] [3]

CAMPOS DE INTERESSE NAS TABELAS NUM e NUM2 - iguais nas 2 tabelas: 
OBJECTID		Identificador do Objeto nas tabs.NUM e NUM2: permite manutenção futura 
			- se algum objeto for alterado no original da PMPA, basta comparar e alterar.
TextString		Numeração do endereço propriamente dito: inclui casos de subdivisão, como 1/39; (100/100); DMAE (576).
Angle			Ângulo de inclinação para a testada do logradouro de referência: pode ser útil, em eventual caso de dúvida, 
			para identificar a qual logradouro pertence, como em esquina ou grandes lotes 
			(NEM SEMPRE está paralelo ao logradouro; por vezes perpendicular, em lote estreito; todo modo múltiplo de 90º).
X,Y 			Coordenadas em metros(m); referentes ao centróide da feição (annotation) 
			- pontos localizados na parte interior dos prédios, próximos à testada.
			// desconsiderados demais campos de formatação de "annotation" (como font, etc).

NAS IMAGENS ABAIXO:
1) TABELAS NUM e NUM2, COM CAMPOS DE COORDENADAS X e Y, NO MDB ORIGINAL;
2) TABELA DELTA_NUMFIN (SEM COORDENADAS) CONTENDO A NUMERAÇÃO CORRIDA À MEDIDA EM QUE A PMPA EFETUA NOVAS COMPATIBILIZAÇÕES (PARA MANUTENÇÃO).

1-ADDR-DELTA NUMFIN-NUM-NUM2-X-Y.jpg2-ADDR-DELTA NUMFIN-NUM1-NUM2.jpg



CONVERSÃO DE MDB EM XLSX E CSV:

XLSX GERADO:(.mdb salvo como .xlsx)		CAMPOS(tamanho):	
LIMPO-5campos-NUM1-1a65577.xlsx			65577 objetos	OBJECTID; TextString; Angle; X; Y  //  Eliminados demais campos
LIMPO-5campos-NUM2-1a137484.xlsx		137484 objetos	OBJECTID; TextString; Angle; X; Y  //  Eliminados demais campos
 					TOTAL =	203061 objetos (conforme MDB original) 
CSV GERADO:(.xlsx salvo como .csv) > para QGIS
SEPARADOR: 	";" 
CSV-5campos-NUM1-1a65577.csv			65577 objetos	OBJECTID; TextString; Angle; X; Y
CSV-5campos-NUM2-1a137484.csv			137484 objetos	OBJECTID; TextString; Angle; X; Y
 					TOTAL =	203061 objetos (conforme MDB original)


Procedimentos no QGIS

ÍNDICE E RESUMO (descrição mais abaixo):

1) IMPORTAR CSV AO QGIS: Verficar conversão de coordenadas; salvar em SHP: OK 
2) AFERIR QUANTIDADE de objetos importados: se corresponde ao original: comparar contagem "MDB ORIGINAL" x "IMPORTADO AO QGIS":
	FALTOU 01 objeto em NUM1 (X,Y=inválido) >> corrigida numeração	(MENOS 01 OBJETO)
3) AFERIR QUALIDADE DAS COORDENADAS importadas: comparar com : mapa DMWEB; OSM addr=*
	-AFERIR COORDENADAS > MARCAR SE COM ERRO : COORDENADAS OK
	-AFERIR POSIÇÃO do número em relação a: edificação; testada do lote; logradouro respectivo : POSIÇÃO OK
4) AFERIR VALORES ANÔMALOS: todos os campos; caso-a-caso eventual correção destes ou deleção do ponto/objeto;	
	-MARCAR OBJETOS ANÔMALOS ou com erro original em campos: 	>> 	+ note=dúvida		
	-CORRIGIR; OU SEPARAR E REMOVER OBJETOS ANÔMALOS : OK SEPARADOS, REMOVIDOS	(REMOVIDOS 02 OBJETOS)
5) AFERIR OBJETOS que DUPLICAM o EXISTENTE no OSM: (Endereços em "TextString=*") remover da importação 
	-SEPARAR E REMOVER OBJETOS EM DUPLICATA  : OK SEPARADOS, REMOVIDOS, RESERVADOS		
6) CONVERTER PARA TAGS OSM: revisão geral de tags -  : OK CONVERTIDOS


1) IMPORTAR CSV AO QGIS:
Importar como pontos: (tutorial: http://www.qgistutorials.com/en/docs/importing_spreadsheets_csv.html)

CONVERSÃO DE COORDENADAS
> =Sistema de Referência: SIRGAS 2000 
> =Projeção Cartográfica: TM-POA
QGIS:  "CRS=TMPOA" :
+proj=tmerc +lat_0=0 +lon_0=-51 +k=0.999995 +x_0=300000 +y_0=5000000 +ellps=GRS80 +towgs84=0,0,0,0,0,0,0 +units=m +no_defs 
 
SHP GERADO: 	(.csv salvo como .shp)	
Q5-NUM1-1a65577.shp	
Q5-NUM2-1a137484.shp	>> OK: IMPORTADOS AO QGIS COMO PONTOS


2) AFERIR QUANTIDADE de objetos importados:

CONTAGEM DE OBJETOS IMPORTADOS: Problema: Tabela NUM1 = 65576 objetos >> FALTOU 01 objeto ao passar para o QGIS: 
Adicionado campo verificador (VERIFCALCn) p/ comparação entre valores de linha e de OBJECTID; percorrida lista em sequência: Objeto faltante: OBJECTID = 12386 // Causa: MDB original: TextString = "580" / X = 1.#QNAN / Y = 1.#QNAN CAUSA: COORDENADAS X,Y INVÁLIDAS ARQUIVOS COM NOVA NUMERAÇÃO CORRIGIDA: Q5-NUM1-1a65576-R0.shp >> Features = 65576 objetos Q5-NUM2-1a137484-R0.shp >> Features = 137484 objetos NOVO TOTAL DE OBJETOS = 203060 objetos


3) AFERIR QUALIDADE DAS COORDENADAS importadas:

Comparar com demais mapas-base:
	- Mapa PMPA/DMWEB	:				>> AFERIDO:OK	
	- Mapa OSM		:				>> AFERIDO:OK	
	- POSIÇÃO do número na edificação/logradouro:		>> AFERIDO:OK, NA TESTADA

IMAGENS ABAIXO:
1) À ESQUERDA: POSICIONAMENTO DA NUMERAÇÃO NO MAPA ORIGINAL DA PREFEITURA (DMWEB).
2) À DIREITA: POSICIONAMENTO DA NUMERAÇÃO APÓS PONTOS IMPORTADOS AO QGIS COM CRS TMPOA; SOBRE MAPA-BASE DO OSM.
3-ADDR-COMPARA-DMWEB-SHP-OSM-2.jpg


4) AFERIR VALORES ANÔMALOS:
-Verificar CADA CAMPO; anotar OBJECTID; MARCAR, SEPARAR; CORRIGIR OU REMOVER:
-Possibilidade de corrigir ou deletar; adicionar MARCADOR: note=* e/ou fixme=*
4.1) CONVERSÃO INICIAL DE CAMPOS:

TABELA:   	ORIGINAL:	*CAMPO ATUAL*:	DESCRIÇÃO:									
NUM1:		OBJECTID  >>	OID_NUM1	>> = IDENTIFICADOR TAB. NÃO COMPATIBILIZADA CF. PMPA (p/futura manutenção)
NUM2:		OBJECTID  >>	OID_NUM2	>> = IDENTIFICADOR TAB. COMPATIBILIZADA CF. PMPA (p/futura manutenção)	

CAMPO PRINCIPAL DE ENDEREÇOS:
(em ambas):	TextString>>	TextString	>> ENDEREÇO ORIGINAL: Posterior conversão >> REMOVER ANTES DE IR P/JOSM 
				  + addr_h 	>> (para addr:housenumber=* , posterior no JOSM)
				  + addr_d 	>> (para addr:unit=* , posterior no JOSM)
CAMPOS ADICIONAIS:
		Angle     >>	Ang_Logr	>> ÂNGULO da "annotation" (TextString) em relação ao logradouro:  
		(NEM SEMPRE está paralelo ao logradouro; por vezes perpendicular, em lote estreito; todo modo múltiplo de 90º).
			  >>	VERIFCALC(1;2)	>> VERIFICADOR temporário p/ comparação entre valores: 
							REMOVER ANTES DE IR P/JOSM 	
CAMPOS MARCADORES:
			  >>	note 		
			  >>	fixme		


4.2) EXAMINAR CAMPOS E VALORES:
-MARCAR E SEPARAR VALORES ANÔMALOS: com campos "note=dúvida"; note="addr/dividido"
-REVISAR/ALTERAR NO ARQUIVO DE TRABALHO:

EXEMPLOS DE VALORES DAS TABELAS, NORMAIS E ANÔMALOS (ou com diferenças de formatação; ou entre ORIGINALxIMPORTADO):

CAMPOS:		TextString	X	Y	MDB ORIGINAL: 	PROPOSTA:	CONVERSÃO TextString P/ OSM:			
*OID_NUM1*															
60738 		(null)		(null)	(null)	>> (null)	>> REMOVER OBJETO	>> ERRO: X;Y=null// REMOVIDO				
47901		(100/100)			>> (100/100)	>> MANTER COMO ESTÁ	addr:housenumber=(100/100) +note=dúvida +fixme=confirm	
43794		01				>> 01		>> NORMAL		addr:housenumber=01
8596		1				>> 1		>> NORMAL		addr:housenumber=1
39453		1/39 (+ note=addr/dividido) 	>> 1/39		>> DIVIDIR:		addr:housenumber=1 + addr:unit=39 
4889		DMAE 582			>> DMAE 582	>> MANTER COMO ESTÁ	addr:housenumber=DMAE 582 +note=dúvida 	+fixme=confirm
3061		"DMAE(576)  =caracter "quebra"	>> DMAE (576) 	>> *REMOVER "ASPAS"*	addr:housenumber=DMAE(576) +note=dúvida	+fixme=confirm	
*OID_NUM2*
132996		(1191)				>> (1191)	>> MANTER COMO ESTÁ	addr:housenumber=(1191) +note=dúvida +fixme=confirm	
136465		<FNT size="7,50">124</FNT>	>> <FNT size="7,50">124</FNT>		>> ERRO: REMOVER // REMOVIDO				
136915		000				>> 000		>> MANTER COMO ESTÁ	addr:housenumber=000 			+ fixme=confirm
137143		D4889				>> D4889	>> MANTER COMO ESTÁ	addr:housenumber=-D4889 		+ fixme=confirm
50924		"214321472153215721612165"	>> ~= 2143/2147/2153/2157/2161/2165	
			= caracter invisível/quebra	>> CORRIGIR: addr:housenumber=2143;2147;2153;2157;2161;2165 + note=addr/dividido   
RESUMO REMOVIDOS:
>> OID_NUM1=60738 	(X/Y=null)					>> REMOVIDO (01 OBJETO)
>> OID_NUM1=136465 	(TextString=<FNT size="7,50">124</FNT>) 	>> REMOVIDO (01 OBJETO) 
NOVOS ARQUIVOS CORRIGIDOS: 	
 	Q5-NUM1-1a65575-R1.shp	>> 	Features = 65575	>> FEITO BACKUP
 	Q5-NUM2-1a137483-R1.shp	>> 	Features = 137483	>> FEITO BACKUP
			   NOVO TOTAL DE OBJETOS =203058	// (-02 removidos)	>> OK, CONFERE C/ ÍTEM:2


4.3) CORRIGIR VALORES (quando possível):
A) Converter valores dividos no original em 02 novos campos (tags) >> busca por marcadores "note=addr/dividido"

ORIGINAL:			CONVERSÃO QGIS:
TextString=1073/23		+ addr_h=1073	>> (para addr:housenumber=*)
				+ addr_d=23	>> (para addr:unit=*)
CONVERSÃO:
Com a valiosa ajuda do @naoliv para a sintaxe no Field Calculator (QGIS):
addr_h :
= if(regexp_match("TextString", '/'), replace(left("TextString", strpos("TextString", '/')), '/', ' '), "TextString")
addr_d :
= if(regexp_match("TextString", '/'), right("TextString", (length("TextString") - strpos("TextString", '/'))), NULL)

B) Selecionar sem note=* : converter direto : "addr_h" = "TextString"
OK: CORRIGIDOS, DIVIDOS, CONVERTIDOS E SALVOS OS MESMOS ARQUIVOS EM NUM1 E NUM2: _R1.shp


5) AFERIR OBJETOS que DUPLICAM o EXISTENTE no OSM:

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *

NOTA:
PARA QUEM QUISER CONTINUAR COM O PROCESSO:
DAQUI PARA BAIXO (PELO MENOS) NECESSITA REVISÃO DE TUDO:
-Revisar separações de objetos duplicando existentes, eventualmente com buffer maior.
-ADICIONAR addr:street aos nós; aferir esta adição (esquinas etc);
VER PÁGINA DE DISCUSSÃO

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *


BAIXADOS NO OVERPASS/JOSM OBJETOS EXISTENTES NO OSM em 2019-01-30 (nodes+ways+relations): 
   WIZARD = (addr:housenumber=* or addr:door=* or addr:unit=* or addr:interpolation=*) in "Porto Alegre"

-SEPARAR E REMOVER OBJETOS NOVOS EM DUPLICATA AO OSM: ("addr:housenumber*")  + note='intersecta...OSM'
-ANÁLISES ESPACIAIS, SELEÇÃO E REMOÇÃO:	>> CONVERTER "EPSG:4326-WGS84" NUMn_PMPA ("MESMA CRS" DO OSM); SALVAR BACKUP.
-SELECIONAR, MARCAR E SEPARAR (SE DUPLICA ENDEREÇOS EXISTENTES NO OSM): 
-CRUZAR COM: QGIS/Spatial Query: "WGS84-NUMn.SHP > intersects > (OSM...vectors)":

1) POLÍGONOS/OSM:	=(incluídos polígonos de relations)
	"OVP-OSM-addr_x-R-W-N-30882-Polygon"	
	> MARCADOS SELECTED: + note='intersecta_polig_addr_OSM' 
	RESULTADO:	NUM1: Removidos = 1501  //  NUM2: Removidos = 3258  

2) WAYS/OSM:	= SOMENTE ways e nodes de "addr:interpolation=*" (ways fechados já foram no POLÍGONOS)	
		** PROPOSTA: NÃO REMOVER ENDEREÇOS PMPA QDO CONFLITO COM LINHA DE INTERPOLATION; O QUE VALE É O NODE DE INTERPOLATION;
		CONSIDERAR REMOVER INTERPOLATION DO OSM: INTERPOLATION É APROXIMADO E FICA NA RUA; ENDEREÇOS PMPA FICAM DENTRO DO PRÉDIO;
		HÁ DUPLICAÇÕES NO OSM DE "interpolation x housenumber": EX.: Av.Bastian 558 esq. Getúlio Vargas
	
3) NODES/OSM:	= nodes com "addr:housenumber=*" (*INCLUI nodes de interpolation*)						
	"OSM-addr_h-nodes-limpo-1865" >> Gerado Buffer Diâmetro 10m (Raio5m=0,00005) 			
	> MARCADOS SELECTED: + note='intersecta_buf5m_nodes_addr_OSM' + fixme='confirm' 
	RESULTADO:	NUM1: Removidos = 180 // NUM2: Removidos = 370	


TOTAL FINAL SEPARAÇÃO COM CONFLITO / SEM CONFLITO:

1) OBJETOS SEM  CONFLITO:								QTD.:
	PARA PREPARAÇÃO PARA IMPORTAÇÃO:	
		>> WGS84-NUM1-sem_conflito_i.SHP 		> TOTAL:	NUM1 = 63894 BONS
		>> WGS84-NUM2-sem_conflito_i.SHP 		> TOTAL:	NUM2 = 133855 BONS
					>> TOTAL ACUMULADOS SEM CONFLITO          = 197749
2) OBJETOS COM CONFLITO - REMOVIDOS E SEPARADOS:
	 PARA FUTURA EVENTUAL ANÁLISE CASO-A-CASO SE AINDA VALE PARA CORRIGIR NO OSM:
		>> RESERVA-WGS84-NUM1-com_conflito_i.SHP 	> TOTAL:	NUM1 = 1681 CONFLITUOSOS
		>> RESERVA-WGS84-NUM2-com_conflito_i.SHP 	> TOTAL:	NUM2 = 3628 CONFLITUOSOS
					>> TOTAL ACUMULADOS COM CONFLITO          = 5309
						   SOMATÓRIO GERAL PARA CONFERÊNCIA  = 203058	>> OK, CONFERE QUANTIDADE FINAL C/ ÍTEM:4.2

NA IMAGEM ABAIXO: MARCADOS (COM ESTRELA) OS OBJETOS QUE DUPLICAM ENDEREÇOS JÁ EXISTENTES NO OSM; SEPARADOS E REMOVIDOS DA IMPORTAÇÃO. 4-ADDR-REMOVIDOS-SMF-EXISTENTES-OSM.jpg


6) CONVERTER PARA TAGS OSM:
REVISÃO GERAL DE CONVERSÃO DE CAMPOS PARA TAGS-OSM NO SHP:

CONVERSÃO 1 (NO QGIS):	ORIGINAL:		CONVERTIDO:
	NUM1:		OBJECTID=*	>>	SMF_IDNUM1=* 			> PERMANECE
	NUM2:		OBJECTID=*	>>	SMF_IDNUM1=* 			> PERMANECE
	(em ambas):	Angle		>> 	Ang_Logr=* 			> PERMANECE
			"TextString"	>>	addr_h=* + addr_d=*		> PERMANECE
			REMOVER:	>>	TextString; X; Y; VERIFCALC  	> *REMOVIDO*
-SALVA ARQUIVOS ANTERIORES COMO BACKUP;
-CRIA NOVOS "SHP PARA JOSM": 

A) DIVISÕES POR REGIÃO DOS SHP SEM CONFLITO:									
1) SMF-JOSM-IMPORT-OK-NUM1-63894.shp	= 63894 OBJETOS 
	SMF-DIV-NUM1-ZAnorte-30949.shp
	SMF-DIV-NUM1-ZCsul-32945.shp 
2) SMF-JOSM-IMPORT-OK-NUM2-133855.shp	= 133855 OBJETOS
	SMF-DIV-NUM2-ZAnorte-43981.shp
	SMF-DIV-NUM2-ZBcentral-44675.shp
	SMF-DIV-NUM2-ZCsul-45199.shp 
SOMATÓRIO DOS SEM CONFLITO:		=197749 OBJETOS	>> OK, CONFERE COM TOTAL SEM CONFLITO ÍTEM 5

B) RESERVA DOS SHP COM CONFLITO, REMOVIDOS:
SMF-JOSM-IMPORT-REMOVIDOS-NUM1-1681.shp	= 1681 OBJETOS
SMF-JOSM-IMPORT-REMOVIDOS-NUM2-3628.shp	= 3628 OBJETOS

	SOMATÓRIO GERAL PARA CONFERÊNCIA	= 203058 OBJETOS	>> OK, CONFERE QUANTIDADE FINAL C/ ÍTEM:4.2


Procedimentos no JOSM

1) IMPORTAÇÃO DO SHP AO JOSM:

Revisadas e renomeadas TAGS-OSM:
CONVERSÃO 2 (NO JOSM):	SHP:		NOVA TAG-OSM (FINAL):
			addr_h=* 	>>	addr:housenumber=* 		
			addr_d=*	>> 	addr:unit=* 			
			OID_NUM1=* 	>>	SMF_OID_NUM1=* 			
			OID_NUM2=* 	>>	SMF_OID_NUM2=* 			
					>> 	Ang_Logr=* 			
					>>	note=* 				
					>> 	fixme=* 	
		
A) ARQUIVOS SEM CONFLITO CONFORME DIVISÃO POR REGIÃO (<numero de objetos>.osm):
	SMF-DIV-NUM1-ZAnorte-30949.osm		5,5MB
	SMF-DIV-NUM1-ZCsul-32945.osm		5,9MB

 	SMF-DIV-NUM2-ZAnorte-43981.osm		7,8MB
 	SMF-DIV-NUM2-ZBcentral-44675.osm	7,9MB
 	SMF-DIV-NUM2-ZCsul-45199.osm		8,1MB

B) RESERVA DOS SHP COM CONFLITO REMOVIDOS NO QGIS NA ETAPA 5:
SMF-REMOVIDOS NO QGIS-NUM1-1681.osm		0,4MB
SMF-REMOVIDOS NO QGIS-NUM2-3628.osm		0,8MB

SOMATÓRIO GERAL PARA CONFERÊNCIA	= 203058 OBJETOS	>> OK, CONFERE 

Encerradas as conversões de TAGs



2) VALIDAÇÃO "INTERNA" AO MATERIAL (conflitos de overlapping, etc)

Somente com os dados a serem importados; sem baixar do OSM:
-Passar o validador: verificar nós duplicados e outro eventuais conflitos.

Em caso de nós duplicados:
-Copiar todos objetos em situação de conflito de duplicação para um novo arquivo, a ser reservado para eventual posterior correção;

NOTA: Desconsiderar avisos do validador de "House number without street" :
-o material não contém "nomes de logradouros" no original;
-não parece ser viável adicionar addr:street=* aos pontos através de algum processo automatizado por "cálculo de proximidade"; o material original é posicionado "de modo geral" mais próximo do respectivo logradouro; porém há caso em que há vários números em um mesmo lote ou edificação que estão dispostos em fileira perpendiculares ao respectivo logradouro, sendo que os últimos podem estar mais afastados do efetivo logradouro e mais próximos dos outros (exemplo: Objetos SMF_IDNUM2=14122,14701,10749,14702 na Rua Vicente da Fontoura, sob os Nºs 1654, 1658 1664, 1668).
-o cálculo de proximidade é viável de ser feito nos aplicativos, sob demanda, o que não envolve atribuir um valor que tem grande possibilidade de não ser correto;
-pelo mesmo motivo seria não 100% seguro proceder a uma adição automatizada de tags addr:street=* baseada em proximidade; e seria inviável proceder a esta adição manual para 200.000 endereços.

Remoção da tag provisória Ang_Logr=*: considerar remover as tags Ang_Logr=*. Estas indicam o ângulo original do texto do objeto "annotation" em relação ao respectivo logradouro ao qual o texto é "paralelo", o que permitiria identificar a direção (perpendicular, +90°) ao logradouro referido; só tem portanto a função de servir de possibilidade de ajuda para algum "eventual" caso de localização ambígua quanto a vários logradouros, como em esquinas, em alguma "consulta" automatizada por "cálculo de proximidade"; não porém para atribuição automatizada de valores. Eventuais poucos casos de ambiguidade em relação aos logradouros bem poderiam ser examinados sob demanda (isto é, em caso de reclamação).


3) RESULTADO FINAL APÓS REMOÇÕES PRÉVIAS NO QGIS E VALIDAÇÕES NO JOSM:

 I) RESERVA DOS SHP "COM CONFLITO" REMOVIDOS NO QGIS (POR CONFLITOS COM EXISTENTES NO OSM; CF. ETAPA 5):
  -Salvos em .OSM para eventual avaliação caso-a-caso.
	SMF-REMOVIDOS NO QGIS-NUM1-1681.osm		1681 OBJETOS
	SMF-REMOVIDOS NO QGIS-NUM2-3628.osm		3628 OBJETOS

II) RESERVA DOS "NÃO VALIDADOS" NO JOSM (POR CONFLITOS GEOMÉTRICOS E DE TEXTOS):
  -Salvos para avaliação caso-a-caso; para importar necessitam avaliação prévia dos conflitos e resolução.
	SMF-NAO-validados-total-1135.osm		1135 OBJETOS
	
  Conflitos ocorridos:
  -Nodes at same position (556) 
      -selecionar os que estão em conflito em mesma posição; 
      -salvar em outro arquivo e remover os objetos com maior valor de SMF_IDNUMn (mais recente, posterior); 
      -deixa apenas o objeto mais antigo.
  -Tag value contains character with code less than 0x20 - Tag 'addr:housenumber' invalid. (2) 
      -examinar individualmente, comparando com valores originais; corrigir estes valores.
   Caso permaneçam inválidos, reservar em arquivo para eventual análise caso-a-caso.
   SOMENTE LEVAR A IMPORTAÇÃO SE E APÓS VALIDAR NOVAMENTE TODOS OS SEPARADOS.

III) VALIDADOS E PREPARADOS PARA IMPORTAÇÃO:	
	SMF-validado-NUM1-ZAnorte-30774.osm		30774 OBJETOS
	SMF-validado-NUM1-ZCsul-32649.osm		32649 OBJETOS
	SMF-validado-NUM2-ZAnorte-43826.osm		43826 OBJETOS
	SMF-validado-NUM2-ZBcentral-44569.osm		44569 OBJETOS
	SMF-validado-NUM2-ZCsul-44796.osm		44796 OBJETOS
		TOTAL OBJETOS VALIDADOS:		199614 OBJETOS

SOMATÓRIO GERAL PARA CONFERÊNCIA:  08 arquivos .osm	= 203058 OBJETOS 	>> OK, CONFERIDO GERAL



4) PARA IMPORTAR AO OSM:

NO JOSM:

1) BAIXAR DADOS ATUALIZADOS DO OSM; 

2) VERIFICAR ÚLTIMOS EVENTUAIS CONFLITOS COM DADOS EXISTENTES NO OSM COM: 
eventuais adições mais recentes de  addr:housenumber=*; addr:interpolation=*; type:way/node/relation;
(dados existentes no OSM a eventualmente adicionar ao novo material: 
addr:door; addr:street=*; addr:postcode=*; addr:suburb=*; addr:city=*; phone=*; contact:phone=*; fax=*; contact:fax=*; email=*; contact:email=*.)
3) VALIDAR TUDO: objetos novos + existentes no OSM, juntos:
-em caso de conflitos, efetuar uma busca (search) sobre a lista de objetos acusados pelo validador (selecionando-os na caixa de seleção), procurando pelos objetos com id:0 (zero), o que retorna os "novos" objetos"; 
-verificar quais são e a causa do conflito; eventualmente ajuda para examinar o caso se selecioná-los, copiá-los para novo layer, e removê-los do grupo original a ser importado.

A princípio, não devem ser encontrados conflitos, pois tratam-se de nós, e já foram previamente removidos os nós do material que estavam em conflito com dados existentes no OSM baixados com overpass (addr:housenumber=*; addr:interpolation=*; addr:door=*; addr:unit=*) em polígonos e em buffer de 5m de cada endereço em nó.
Eventuais conflitos por elementos mais recentes podem ser resolvidos sob demanda.

4) SOMENTE APÓS TUDO VALIDADO, PROCEDER À IMPORTAÇÃO:
-configurar o JOSM para subir em grupos de 100 objetos (não tudo de uma vez).

CHANGESET-COMMENT: #Import #PMPA/SMF #addr:housenumber 
CHANGESET-SOURCE:  PMPA/SMF 



Link para os arquivos deste material:
1) ZIP contendo os arquivos integrais originais em .XLSX e .CSV das Tabelas "NUM1", "NUM2" (com coordenadas X,Y) e "DELTA_NUMFIN" (somente numeração corrida das novas compatibilizações efetuadas pela PMPA; sem coordenadas X,Y) do MDB (250MB), sem formatação:
SMF-XLSX-ORIGINAIS.zip - https://www.dropbox.com/s/fmjt63y6788vw7g/SMF-XLSX-ORIGINAIS.zip?dl=0

REFAZER ARQUIVOS FINAIS

2) ZIP contendo os 08 arquivos finais gerados em .OSM (cf. Procedimentos no JOSM / ítem 3 - RESULTADO FINAL):
SMF-RESULTADOS-FINAIS-OSM.zip - https://www.dropbox.com/s/ote65y8c046qoap/SMF-RESULTADOS-FINAIS-OSM.zip?dl=0


Adição de addr:street (em desenvolvimento)

(procedimentos seguintes em teste/desenvolvimento - reorganizar roteiro)

Necessário adicionar tags addr:street=* aos nós com addr:housenumber=*, destinadas a conter o nome da respectiva rua.

No QGIS e JOSM.